Különösen nagy gondot fordított a könyvtár fejlesztésére Hornig Károly. 1888-ban foglalta el püspöki székét, 1912-ben bíborossá nevezte ki X. Pius pápa. – Első teendői közé tartozott, hogy a székfoglalás után hamarosan a sümegi könyvtár berendezését átadta az Iparművészeti Múzeumnak, hogy állagának épsége biztosítva legyen. A könyvek azonban Sümegről Veszprémbe kerültek. – Budapesti és bécsi könyvkereskedője állandóan tájékoztatta Hornig püspököt a könyvpiac újdonságairól. Megtalálható könyvtárában Hain ősnyomtatvány katalógusa, Szabó Károly Régi magyar könyvtára, Apponyi Sándor „Hungarica, magyar vonatkozású külföldi nyomtatványok” c. munkája, Petrik bibliográfiái és járatta a Magyar Könyvszemlét is. Előszeretettel gyűjtötte a Vesprimiensiákat, azokat a műveket, melyeket Veszprémben nyomtattak vagy Veszprémről írtak, vagy veszprémi szerzők művei. Az első magyar katolikus hittudományi folyóirat – az Egyházi Értekezések és Tudósítások – 1820-ban Veszprémben jelent meg, szerkesztője, kiadója a könyvbarát Horváth János kanonok, a későbbi székesfehérvári püspök volt. Különösen szem előtt tartotta az egyházmegye papjainak irodalmi és tudományos munkásságát és nagy gonddal gyűjtötte is a megjelent munkákat. Előmozdította a hazai és külföldi tudományos kutatást, melynek látható eredménye: a „Monumenta Romana Episcopatus Wesprimiensis” – „A veszprémi püspökség Római Oklevéltára” 4 vaskos kötete. Ő maga közreadja Padányi Biró Márton veszprémi püspök naplóját. Gazdag könyvtárának a folyóiratállománya is. Bizonyítják ezt: Nyelvtudományi Közlemények, Irodalomtörténeti Közlemények, Magyar Nyelv, Magyar Nyelvőr, Katolikus Szemle, Magyar Kultúra, Magyar Sion, Religió, melynek egyébként szerkesztője is volt 1873-tól 1878-ig, végül a Századok. Könyvtárában 4 ősnyomtatvány, 12 XVI. Századi mű s 38 Régi Magyar Könyvtár sorozatba tartozó mű található. – A Régi Magyar Könyvtár sorozatba tartozó művek közül megtalálható könyvtárában a Káldi-féle magyar nyelvű Biblia bécsi kiadása 1626-ból és az esztergomi missale velencei kiadása 1512-ből, Ez utóbbinak érdekessége: Simor prímás bejegyzése, mellyel a misszálét Knauz Nándornak, könyvtárosának és levéltárosának ajándékozza 1869-ben. Ezután jön Hornig bejegyzése, mely szerint a művet Knauz halála után Dobrovszky antikváriustól vette 400 aranyforintért 1899-ben. Könyvtárával, könyveivel kapcsolatos minden munkát saját maga végezte. Könyvtárának állományát halála után vették leltárba, melynek eredménye 17346 kötet. Ez a nagy mennyiségű könyvanyag képezte/képezi a Püspöki/Érseki Könyvtár gerincét.