Cmentarz żydowski znajduje się u zbiegu ulic Rybackiej i Tarnowskiej, w północnej części miasta, przy ujściu rzeki Kamienicy do Dunajca. Teren jest płaski, porośnięty trawą i drzewami., ogrodzony metalowym płotem. Zajmuje powierzchnię około 3,05 hektara. Do dzisiaj na cmentarzu żydowskim w Nowym Sączu zachowało się około 200 macew (kamienne nagrobki, w tym grobowiec (po żydowsku ohel) zmarłego w 1875 roku cadyka Chaima Halberstama, do którego do dzisiaj pielgrzymują chasydzi z całego świata.

Podczas II wojny światowej cmentarz żydowski został zdewastowany przez Niemców. Znaczną część macew zniszczono lub użyto jako materiał do budowy chodników. Sądecki kirkut był w latach wojennych miejscem egzekucji, także masowych, dokonywanych przez hitlerowców na ludności żydowskiej miasta i okolicy, również na Polakach. Miejsce masowych kaźni upamiętnione jest pomnikiem-obeliskiem odsłoniętym w 1959 roku, na którym umieszczono napis „Ofiarom hitlerowskiego barbarzyństwa i bohaterom walki o wolność narodu polskiego 1939–1945 roku”. Niemcy w czasie wojny używali macew do brukowania ulic.

Obecny układ macew powstał po 1945 roku, dzięki ostatniemu żydowskiemu mieszkańcowi, Jakubowi Mullerowi, który przez wiele lat opiekował się cmentarzem i restaurował po zniszczeniach wojennych. Ostatnie pochówki na cmentarzu żydowskim w Nowym Sączu odbyły się w latach 90. XX wieku.