Le mot désignant un lieu consacré aux livres apparaît à la fin du XIVe siècle, dérivant de l'anglo-français librarie et de l'ancien français librairie ou librarie, qui signifiait « collection de livres » ou « boutique de libraire » (XIVe siècle). Tout cela vient du latin librarium, qui désignait une « étagère à livres » ou un « coffre à livres », ainsi que libraria, signifiant « une boutique de libraire ». En latin médiéval, ce terme désignait une « bibliothèque ». Ces usages sont des formes nominales du neutre et du féminin de librarius, qui signifie « relatif aux livres ». Ce dernier provient du latin librarium, lui-même issu de liber (au génitif libri), signifiant « livre, papier, parchemin ».
Le mot latin liber (provenant du proto-italique *lufro-) désignait à l'origine « l'écorce intérieure des arbres ». Il pourrait dériver de la racine indo-européenne *lubh-ro-, qui signifie « feuille, écorce », elle-même issue de *leub(h)-, qui signifie « dépouiller, peler » (voir leaf (n.)). En comparant avec l’albanais labë (« écorce, liège »), le lituanien luobas (« écorce »), le letton luobas (« pelure ») et le russe lub (« écorce »), de Vaan suggère que, « faute de meilleure explication, on peut supposer que liber est apparenté à *lubh- et remonte à un mot indo-européen ou européen signifiant 'feuille, écorce'. »
Dans la plupart des langues romanes, le mot a survécu, mais uniquement dans le sens de « boutique de libraire » (français libraire, italien libraria). En vieil anglais, on trouvait bochord, qui se traduisait littéralement par « trésor de livres ». En tant qu'adjectif, Blount (1656) utilise librarious.
"I no sooner come into the library, but I bolt the door to me, ... and in the very lap of eternity, amongst so many divine souls, I take my seat, with so lofty a spirit and sweet content, that I pity all our great ones, and rich men that know not this happiness." [Burton, "Anatomy of Melancholy," paraphrasing "Heinsius, the keeper of the library at Leyden in Holland"]
« À peine suis-je entré dans la bibliothèque que je ferme la porte derrière moi, ... et dans le sein même de l'éternité, parmi tant d'âmes divines, je prends place, avec un esprit si élevé et une douce satisfaction, que je plains tous nos grands et riches hommes qui ne connaissent pas ce bonheur. » [Burton, « Anatomie de la mélancolie », paraphrasant « Heinsius, le gardien de la bibliothèque de Leyde en Hollande »]