Nazwa placu wywodzi się od XVIII-wiecznych krzyży na kolumnach, które znajdują się przed kościołem św. Aleksandra. Ustawiono je w czasach Augusta II, jako zwieńczenie Drogi Kalwaryjskiej prowadzącej od dzisiejszego Belwederu. Plac ozdabia też figura św. Jana Nepomucena, postawiona w poł. XVIII w. z inicjatywy marszałka Bielińskiego na pamiątkę budowy kanałów i wybrukowania tej części miasta.
Centralną część placu zajmuje klasycystyczny kościół św. Aleksandra, zbudowany na wzór Panteonu rzymskiego, który ufundowano ze składek społecznych w latach 1818-1826 według projektu Chrystiana Piotra Aignera na cześć cara Aleksandra I. Świątynię w końcu XIX w. przebudowano w duchu neorenesansu według projektu Józefa P. Dziekońskiego ale po zniszczeniach wojennych przywrócono jej pierwotny kształt. W kościele dolnym odbywają się msze dla osób głuchoniemych.
Pod koniec XIX w. przez plac jeździł tramwaj konny, a jeszcze wcześniej działało tu targowisko. Obecnie przy placu znajduje się Instytut Głuchoniemych, hotel Sheraton, Ministerstwo Gospodarki, a także kilka popularnych lokali - Szparka, Szpulka i Szpilka.