Der Begriff für einen Ort, an dem Bücher aufbewahrt werden, tauchte im späten 14. Jahrhundert auf und stammt aus dem anglo-französischen librarie sowie dem altfranzösischen librairie und librarie. Diese Begriffe bedeuteten ursprünglich „Buchsammlung“ oder „Buchhandlung“ und leiten sich vom lateinischen librarium ab, was so viel wie „Bücherkasten“ oder „Kiste für Bücher“ bedeutete. Auch libraria bezeichnete im Mittellateinischen „eine Buchhandlung“ und wurde später als „Bibliothek“ verwendet. Diese Begriffe sind Substantive, die sich aus dem Neutrum und Femininum von librarius ableiten, was „Bücher betreffend“ bedeutet. Der Ursprung liegt im lateinischen librarium, das „Kiste für Bücher“ bedeutet, und geht zurück auf liber (im Genitiv libri), was „Buch“, „Papier“ oder „Pergament“ heißt.
Das lateinische liber stammt aus dem proto-italischen *lufro- und bedeutete ursprünglich „die innere Rinde von Bäumen“. Möglicherweise geht es auf die proto-indoeuropäische Wurzel *lubh-ro- zurück, die „Blatt“ oder „Rinde“ bedeutete, und ist ein Ableger der Wurzel *leub(h)-, die „abziehen“ oder „schälen“ bedeutet (siehe leaf (n.)). Im Vergleich dazu stehen das albanische labë für „Rinde“ oder „Korke“, das litauische luobas für „Bast“, das lettische luobas für „Schale“ und das russische lub für „Bast“. De Vaan bemerkt dazu, dass wir „mangels einer besseren Erklärung annehmen können, dass liber verwandt ist mit *lubh- und auf ein proto-indoeuropäisches oder europäisches Wort für ‚Blatt‘ oder ‚Rinde‘ zurückgeht.“
In den meisten romanischen Sprachen hat sich das entsprechende Wort nur noch in der Bedeutung „Buchhandlung“ erhalten (Französisch libraire, Italienisch libraria). Im Altenglischen gab es den Begriff bochord, was so viel wie „Buchschatz“ bedeutete. Als Adjektiv fand sich bei Blount (1656) das Wort librarious.
"I no sooner come into the library, but I bolt the door to me, ... and in the very lap of eternity, amongst so many divine souls, I take my seat, with so lofty a spirit and sweet content, that I pity all our great ones, and rich men that know not this happiness." [Burton, "Anatomy of Melancholy," paraphrasing "Heinsius, the keeper of the library at Leyden in Holland"]
„Kaum bin ich in die Bibliothek eingetreten, schließe ich die Tür hinter mir ab, ... und im Schoß der Ewigkeit, umgeben von so vielen göttlichen Seelen, nehme ich Platz, mit einem so erhabenen Geist und süßer Zufriedenheit, dass ich all unsere Großen und reichen Männer bedauere, die dieses Glück nicht kennen.“ [Burton, „Anatomy of Melancholy“, paraphrasiert von „Heinsius, dem Bibliothekar in Leiden, Holland“]