W okresie zaborów władze austriackie rozpoczęły przekształcanie Krakowa w miasto-twierdzę. Powiększający się garnizon wymagał budowy nowych koszar dla wojska i towarzyszącej im infrastruktury. Największe z nich - koszary przeznaczone dla piechoty - postanowiono wybudować wzdłuż ulicy Rajskiej. Zostały one wzniesione w latach 1860-1862 według projektu Feliksa Księżarskiego, wybitnego krakowskiego architekta, autora również m.in. projektu budynku Collegium Novum Uniwersytetu Jagiellońskiego czy też rezydencji Lubomirskich w Przeworsku.
Zaprojektowane przez Księżarskiego monumentalne koszary rozciągające się na prawie całej długości ulicy Rajskiej, były wówczas największą budowlą w Krakowie po Wawelu. Ich długość wynosi do dzisiaj 230 m. Do momentu upadku Austro-Węgier koszary przy ulicy Rajskiej nosiły nazwę Koszar Franciszka Józefa a po przejęciu ich w 1918 przez Wojsko Polskie przemianowane na Koszary Tadeusza Kościuszki.
Po zakończeniu II wojny światowej militarny charakter budynku został utrzymany i do roku 1989 użytkowały go różne jednostki Ludowego Wojska Polskiego. W 1996 roku przeniesiono do nich z ulicy Brackiej siedzibę Wojewódzkiej Bibliotekę Publicznej w Krakowie. Budynek koszar na Rajskiej zapisał się w historii wydarzeniami związanymi z okresem walk o niepodległość Polski w latach 1918-1920.To z niego wyruszyły na odsiecz oblężonemu przez Ukraińców Lwowowi pierwsze regularne oddziały polskie o czym przypomina pamiątkowa tablica na froncie budynku.