Provat e ekzistencës së scrinium-it të Kishës Romane, e cila ishte edhe librari edhe arshiv, datojnë pas në shekullin katër. Në shekullin e gjashtë ajo u vendos nën primicerius notariorum, dhe në fund të shekullit të tetë, u emërua i pari Kardinal Librar i Kishës, i cili luante gjithashtu rolin e kancelarit. Për arsye që mbeten të paqarta, libraritë më të hershme papnore dhe arkivat, u shpërndanë në gjysmën e parë të shekullit 13. Koleksionet e reja të grumbulluara nga Papët e shekullit 13, të cilët mund të rindërtohen falë një inventari që kreu Bonifaci VIII, u zhvendosën pas vdekjes së tij, fillimisht në Peruxhia, më pas në Assisi dhe në fund në Avignon, një proces gjatë të cilit pati humbje të konsiderueshme. Në Avignon, Gjoni XXII nisi të ndërtojë një librari të re, e cila u bë pjesë e koleksionit të familjes Borghese në shekullin 17, dhe iu rikthye Selisë së Shenjtë në 1891.
Themeluesi i librarisë moderne të Vatikanit ishte Papa Nikola V (Tomazo Parentucelli). Kur ai u zgjodh në mars 1447, koleksioni i Vatikanit kishte afro 350 dorëshkrime latine, si dhe disa greke e hebreje, të cilët përshkruhen në një inventar të kryer nga pasardhësi i tij Eugjeni IV. Kjo trashëgimi, së bashku me librat e vetë Nikola V, përbën fillimin e koleksionit, të cilin Nikola V e zgjeroi bujarisht, duke urdhëruar që të bliheshin dorëshkrime në të gjithë tregjet e Evrpës dhe Lindjes, dhe që dorëshkrimet e reja të hartoheshin nga një ekip shkruesish. Nga inventari i kryer pak pas vdekjes së tij në 24 mars 1455, dhe nga burime të tjera, duket se ai la pas më shumë se 1500 dorëshkrime, duke e bërë koleksionin Papnor, më të madhin në Evropë në atë kohë.
20 vjet më pas, Sikstus IV nxorri Ad decorem militantis ecclesiae, duke i dhënë librarisë ndihmë si dhe të parin Librar, Bartolomeo Platina. Numri i dorëshkrimeve ishte rritur në 2527 deri në vitin 1475, dhe në afro 3500 deri në vitin 1481, kur u përgatit një vendndodhje e re për librarinë, në katin e nëndheshëm të ndërtuar prej Nikolas III, me një hyrje për tek Cortile del Pappagallo, që ka pamje nga cortile del Belvedere. Ajo përbëhej nga katër salla me përmasa të ndryshme, të cilat quheshin respektivisht, Bibliotheca Latina, Bibliotheca Graeca (për veprat në këto dy gjuhë); Bibliotheca Secreta (për dorëshkrime që nuk mund të viheshin direkt në dispozicion të lexuesve, përfshirë disa codice veçanërisht të çmuar); dhe Bibliotheca Pontificia ( për arkiva dhe regjistra Papnorë). Librari ndihmohej nga tre asistentë, si dhe një libralidhës. Leximi kryhej në vend, në përputhje me rregulla shumë striktë; por në atë kohë librat edhe jepeshin hua, dhe regjistrat përkatës për vitet 1475-1547 ekzistojnë ende.
Në vitin 1587, Sikstus V autorizoi arkitektin e tij, Domenico Fontana që të hidhte themelet për një ndërtesë të re, më të madhe për Librarinë. Ndërtesa, ku ndodhet edhe sot libraria, u ndërtua mbi shkallët që ndanin Cortile del Belvedere dhe oborrin që sot njihet si Cortile della Biblioteca. Në katin më të lartë ndodhej një sallë e madhe, që quhet Salone Sistino dhe ku mbahen koleksionet. Sikstus V vendosi rregulla preçizë për përdorimin dhe ruajtjen e koleksioneve.
Shekujt XVII-XVII
Në fillim të shekullit të shtatëmbëdhjetë, në kohën e Papa Palit V, pjesa e arkivit u nda nga pjesa tjetër e Librarisë; ajo u bë Arkivat Sekrete të Vatikanit. Koleksionet e librarisë u organizuan në një mënyrë që ka mbetur praktikisht e pandryshuar deri ditët e sotme. Në shekullin e shtatëmbëdhjetë, Librarisë iu shtuan gjithashtu koleksione të tërë privatë, të cilët në shumë raste janë bërë koleksione “të mbyllur” dorëshkrimesh dhe librash brenda Librarisë së Vatikanit, dhe kanë mbetur të ndarë nga koleksionet e tjerë, “të hapur”. Në vitin 1632, Libraria e Heidelbergut, që kish rënë në duart e Dukës së Bavarisë Maksimilian II si plaçkë lufte, iu dhurua nga ky i fundit Gregorit XV në shenjë mirënjohje për ndihmën që ai kish marrë nga Selia e Shenjtë, gjatë Luftës Tridhjetëvjeçare; në 1657, Libraria mori dorëshkrimet e Dukëve të Urbinos; në 1689, ajo bleu dorëshkrimet që më parë ishin koleksionuar nga Mbretëresha Kristinë e Suedisë. Të tjerë koleksione të përvetësuar ishin koleksioni Capponi në 1746 dhe koleksioni Ottoboni në 1748.
Në shekullin tetëmbëdhjetë u hodh ideja e botimit të një katalogu të plotë të dorëshrimeve që ndodheshin në librari. Nga seritë e mëdha të parashikuar prej Giuseppe Simonio Assemani dhe nipi i tij, Stefano Evodio që do të përbëhej prej njëzetë vëllimesh, vetëm tre vëllimet e parë dhe një i katërt i papërfunduar u prodhuan praktikisht. Në fundin e shekullit, koleksionet e librarisë, u pakësuan nga haraçi i luftës që i ishte imponuar Selisë së Shenjtë nga Napoleoni; por shumë prej librave dhe objekteve u rikthyen në 1815.
Karakteristikë e shekullit tetëmbëdhjetë ishte krijimi dhe rritja e vazhdueshme brenda Librarisë së Vatikanit e koleksioneve artistikë dhe antikuarë. I pari i këtyre ishte në kabinetin Nurismatic, shtuar në 1738 përmes marrjes së koleksionit të medalionëve romakë dhe grekë, që kishin qenë pronë e Kardinalit Alessandro Albani, që në atë kohë ishte koleksioni më i madh pas atij të Mbretit të Francës.
Muzeu i Artit të Shenjtë u krijua në 1757 nga bashkimi i tre koleksioneve të rëndësishëm, dhe ai u pasurua vazhdimisht me lloje të ndryshëm objektesh nga lashtësia kristiane (gurë fildishi, vernik, bronxe, qelq, terrakota, tekstile etj.), që vinin kryesisht prej katakombëve romakë. Në 1767, Muzeu u nda në dy pjesë, duke i dhënë hapësirë krijimit të Muzeut të Artit Laik. Edhe ky koleksion pësoi humbje të mëdha, për shkak të ngjarjeve të fundit të shekullit; në veçanti, një pjesë e madhe e koleksionit numismatic u hoq dhe u rimorr më pas, por vetëm pjesërisht.
Koleksioni i librave u pasurua së tepërmi në 1855 nga koleksioni Cicognara, i cili përbëhej nga libra që flisnin për artin si dhe objekte të lashtë. Që nga fundi i shekullit nëntëmbëdhjetë, dorëshkrimet e Borghese (1891), Barberini (1902), Borgiani (1902), Rossiani (1921), Chigi (1923) dhe Ferrajoli (1926), si dhe Arkivi i Kapitullit të Shën Pjetrit (1940) dhe koleksioni Patetta (1945) mes të tjerëve, janë bërë pjesë e koleksioneve të librarisë.
Në kohën e Leo XIII, nisi një proces modernizues i kryesuar nga Librari i atëhershëm Franz Ehrle S.J., i cili hapi sallën aktuale të leximit për libra të printuart (Sala Leonina); adoptoi norma të detajuara për katalogjet e printuar të dorëshkrimeve, që janë zbatuar në një numër të madh katalogësh dhe që vazhdojnë të përdoren edhe sot; si dhe krijoi Laboratorin e Restaurimit në Librari.
Katalogimi i librave u standartizua pas Luftës së Parë Botërore me të mirënjohurën Normë për katalogimin e librave të printuar, e cila është riprintuar dhe përkthyer disa herë.
