Die Geschichte des Klosters St. Matthias beginnt in der Spätantike. Seit der Zweiten Hälfte des 3. Jahrhunderts sind auf dem vormals profanen Gräberfeld südlich, vor den Toren der Stadt Trier, christliche Bestattungen nachzuweisen. Man nimmt an, dass sich die Gräber um eine Kapelle (über der sogenannten Albanagruft, heute Quirinuskapelle) anordneten. Der Trierer Bischof Cyrillus ließ, wie die erhaltene Bauinschrift verrät, zwischen 446/7 und 475/6 die erste Kirche zu Ehren der Gründerbischöfe Eucharius und Valerius errichten. Diese Coemeterialkirche und der dazugehörige Friedhof wurden von einer Klerikergemeinschaft betreut. Da die christliche Kirche eine Schriftreligion ist, deren Heilige Schriften die Grundlage für den Glauben darstellen und für die Feier der Liturgie unentbehrlich sind, muss man davon ausgehen, dass ein Grundbestand an liturgischem Schriftgut in der Gemeinschaft vorhanden war.

Zwischen 970 und 980 nahmen die Geistlichen die Benediktsregel an. Mit dieser Umwandlung in ein Benediktinerkloster wurde auch der Grundstein für den Auf- und Ausbau einer Bibliothek für das Kloster gelegt; da die Regula Benedict tägliche Lesungen vorschrieb und eine Ordnung für das Ausleihen von Büchern vorsah. Einige schriftliche Zeugnisse, die vor dieser Zeit datiert sind, können jedoch vermuten lassen, dass schon vorher eine Büchersammlung existierte. So schenkte der Bischof Amalarius (in Trier 809 – 813) der Gemeinschaft einen Eugippius-Text mit Exzerpten aus den Werken des heiligen Augustinus. Ein im 18. Jahrhundert gebundener Sammelband aus Faszikeln unterschiedlicher Jahrhunderte enthält am Ende einiger Ps.-Athanasius-Texte ein Gebet für den im 9. Jahrhundert verstorbenen Trierer Bischof Hetti. Dies könnte auch ein erster Hinweis für das Vorhandensein eines Skriptoriums darstellen. Das älteste Zeugnis der Klosterbibliothek ist der Liber de promissionibus et de praedictionibus Dei des karthargischen Bischofs Quodvultdeus. Dieser wird in das Entstehungsjahr 719 n. Chr. datiert und ist zugleich auch die älteste Handschrift der Stadt Trier.

Die erste schriftliche Erwähnung eines Skriptoriums in St. Matthias kann in das Jahr 1125 datiert werden: Codex sancti evcharii scriptus anno dominice incarnationis MCXXV sub eberhardo abbate remigio cantore. Erst in der zweiten Hälfte des 12. Jahrhunderts werden alle Bücher der Abtei systematisch mit einem Besitzeintrag versehen. Die Formel des Besitzeintrages bleibt im Wesentlichen bis zum Ende des Mittelalters dieselbe, nur der Eigentümervermerk ändert sich von s.Eucharii über s.Eucharii et s.Mathie zu s.Mathie. Diese Veränderung des Patroziniums vom Gründerbischof Eucharius zur Verehrung des Apostels Matthias setzt mit der Wiederauffindung der Gebeine des Matthias im Jahre 1127 und dem damit verbundenen Pilgerzustrom ein.

Für die zweite Hälfte des 13. Jahrhunderts ist ein Zuwachs an kanonistischer Literatur nachzuweisen, der auf die allgemeine kirchliche Rechtsentwicklung zurückzuführen ist. Unter Abt Johannes II. Rode erfahren die Bibliothek und das Skriptorium einen Aufschwung. Rode mehrt den Bibliotheksbestand nicht nur durch Bücherankäufe, sondern lässt auch verhäuft Bücher im eigenen Skriptorium produzieren, sodass eine Fülle von Schreibernamen überliefert ist. Seine Reformen umfassen zudem eine genau dokumentierte Organisation der Bücher, den Bau eines neuen Bibliotheksgebäudes und die Einrichtung einer Buchbinderei.

Die Abschrift eines Bibliothekskatalogs von 1530 listet neben Handschriften auch Frühdrucke auf. Dieser Katalog wurde von Josef Montebaur analysiert. Er stellte fest, dass die Abteibibliothek 1.687 Werke besaß, darunter 639 Handschriften und 1.048 Drucke. Ferner müssen jene Bücher ergänzt werden, die für liturgische Zwecke in der Sakristei aufbewahrt wurden, sowie die Bestände ausgelagerter Sonderbibliotheken wie zum Beispiel die Privatbibliothek des Abtes.

Mit der Besatzung Triers durch französische Revolutionstruppen und der folgenden republikanischen Verwaltung der Stadt wurden alle Trierer Klöster aufgelöst. Dabei wurden die Abteibibliotheken beschlagnahmt und teilweise veräußert. Der größte Teil der Buchsammlung der Abtei St. Matthias blieb glücklicherweise in Trier und ging an die neu gegründete Stadtbibliothek. Die übrigen, nachgewiesenen Handschriften der ehemaligen Klosterbibliothek St. Matthias sind heute in der ganzen Welt verstreut.