Początkowo niewielki cmentarz parafialny, dziś będący pod zarządem parafii Najświętszego Salwatora, poświęcono w 1865 roku. Służył on mieszkańcom przedmieścia Zwierzyniec, Półwsia oraz okolicznych wsi: Przegorzał, Chełmu, Bielan i Olszanicy.

W 1883 roku nekropolię ogrodzono, w 1888 staraniem ksieni Norbertanek Eufemii Żarskiej wzniesiono neogotycką cmentarną kaplicę świętego Józefa, z katakumbami dla zakonnic projektu Sebastiana Jaworzyńskiego, poświęconą w 1889 roku. Cmentarz poszerzano w latach 1902 i 1999, a remontowano w 1995 roku. W 2001 roku przy bramie głównej umieszczono ufundowaną przez miasto tablicę pamiątkową ku czci poety Jerzego Harasymowicza z fragmentem jego wiersza.

Na cmentarzu spoczywa ponad 25 tysięcy osób. Jest tu zbiorowa mogiła zamordowanych przez Niemców mieszkańców Woli Justowskiej, spacyfikowanej w 1943 roku. W 1979 roku sprowadzono z Paryża prochy syna Adama Mickiewicza – Rafała Józefa zmarłego w 1938 roku. Na cmentarzu pochowano wielu wybitnych Polaków, między innymi: aktora teatralnego Juliusza Osterwę, poetę i satyryka Jana Sztaudyngera, malarza Andrzeja Wróblewskiego, lotnika Janusza Meissnera, fizyka i matematyka Romana Stanisława Ingardena, pisarza science fiction Stanisława Lema, młodopolskiego dramatopisarza Karola Huberta Rostworowskiego, twórcę teatru i scenografa Karola Frycza, reżysera teatralnego i filmowego, laureata Oscara Andrzeja Wajdę.

Położenie cmentarza przy drodze z Salwatora na Kopiec Kościuszki sprawia, że często odwiedzają go mieszkańcy i turyści. Roztacza się z niego piękna panorama na miasto, a nawet na pasmo Beskidów i tatrzańskie szczyty.