W latach 20. XX w. ukończona została wieloetapowa renowacja Starej Synagogi, dzięki której ten wspaniały zabytek żydowskiej architektury sakralnej odzyskał należny mu blask, pełniąc rolę domu modlitwy, miejsca podniosłych uroczystości i szczególnego świadka codziennego życia dzielnicy. Sytuacja zmieniła się diametralnie podczas II wojny światowej. Na początku okupacji Niemcy wysiedlili z Krakowa większość jego żydowskich mieszkańców, a około 15 tysięcy pozostałych zamknęli w getcie utworzonym w marcu 1941 r. na terenie dzielnicy Podgórze. W Starej Synagodze, ogołoconej z jej zabytkowego wyposażenia, urządzili magazyn wojskowy. Po likwidacji magazynu w ostatniej fazie okupacji, budowla została pozbawiona dachu i sklepienia nad główną halą. Zrujnowana, niszczała w ciągu kilku następnych lat po zakończeniu wojny. W latach 1956 - 1959 synagoga została odrestaurowana i adaptowana na muzeum. 30 kwietnia 1959 r. Gmina żydowska w Krakowie przekazała zabytek w użytkowanie Muzeum Krakowa. Pierwsze wystawy poświęcono pamięci ofiar Holocaustu, żydowskim zabytkom sakralnym w Polsce pd-wsch. oraz żydowskiej sztuce obrzędowej w zbiorach Muzeum Krakowa.