Es war in der zweiten Hälfte des 16. Jahrhunderts, als ein unbekannter wohlhabender Kaufmann namens Israel den König Sigismund II. August um die Erlaubnis bat, eine Synagoge zu errichten. Er erhielt die Genehmigung und baute die Synagoge zwischen 1556 und 1563. Der Bauherr der Synagoge beschloss, den Gebetssaal über den Läden, die sich im Erdgeschoss des ursprünglichen Gebäudes (dem s.g. „Frankowa-Haus“, das auch ihm gehörte) befanden, zu errichten. Im Erdgeschoss und im Keller des Gebäudes befanden sich Läden. Dieser Teil des Gebäudes war durch einen Eingang auf der Ostseite erreichbar, während der Eingang auf der Westseite zur Synagoge führte.

1657, während der schwedischen Kriege, wurde die Synagoge verwüstet. Nach dieser Beschädigung wurde sie renoviert und reich ausgestattet. In den späten 1880er Jahren wurde die Synagoge mit einem Nachbargebäude verbunden. Im ersten Obergeschoss des Nachbargebäudes wurden zwei Gebetsräume eingerichtet: auf der Südseite für Frauen und auf der Nordseite für Männer. 1897 wurde ein kleiner Anbau errichtet, um einen weiteren Gebetsraum für die Frauen sowie Räume für den Schulleiter und den Wächter zu schaffen. Die Läden im Erdgeschoss waren meistens in Privatbesitz.

Während des Zweiten Weltkriegs zerstörten die Nazis weitgehend den Innenraum der Synagoge und plünderten ihre Ausstattung. Das Tonnengewölbe im Hauptsaal wurde zerstört und der Frauensaal vollständig abgerissen. Eine große Menora aus Messing, die aus dieser Synagoge stammte, wurde erhalten, da sie von Hans Frank in das Wawel-Schloss verlegt wurde und dort die Räume schmückte.

1951 plante man, die Synagoge in das Puppen-, Masken- und Schauspieltheater „Groteska“ umzubauen, was jedoch nicht realisiert wurde.

1961 wurde der Plan, die Synagoge wieder aufzubauen, erneut aufgegriffen. Sie wurde mit dem Nachbargebäude verbunden, indem eine Tür in der Ostwand neben dem Aron ha-kodesh ausgeschlagen und die historische Geldbüchse in das Treppenhaus des Nebengebäudes verlegt wurde. Die Synagoge wurde mit einem neuen Satteldach mit verglasten Giebeln bedeckt. Bei dieser Sanierung wurde die Ausrichtung des Daches verändert – der First wurde senkrecht zur Straße gebaut.

Das gemauerte Synagogengebäude wurde auf einem rechteckigen Grundriss im Stil der Renaissance errichtet. Die Südwand, die der Straße ul. Józefa zugewandt ist, wird von vier Strebepfeilern getragen und ist mit einem Gesims versehen, das knapp über dem Erdgeschoss verläuft. Zwischen den Strebepfeilern im ersten und zweiten Obergeschoss befinden sich drei hohe, halbrunde Fenster.

Der Eingang zum Gebäude führt durch ein mit Skulpturen verziertes Portal aus der Spätrenaissance. Der Gebetssaal ist von einem Tonnengewölbe mit Gurten und Gauben eingedeckt, das mit Reliefs und Malereien verziert und reich dekoriert ist. Die Wandmalereien stellten biblische Szenen dar. Der Aron ha-kodesh wurde nach dem Vorbild des Altarschranks aus der Synagoge Remu gestaltet. Der Aufsatz (Supraporte) des Altarschranks zeigte zwei Greifen und eine hebräische Inschrift dazwischen: „Die Krone der Tora“. Die ursprüngliche Ausstattung ist nicht erhalten geblieben.

Die Türen des Aron ha-Kodesch waren reich geschnitzt. Die äußere Metalltür war durchbrochen, mit einem Motiv eines polnischen Adlers mit einer Krone und dem Buchstaben S, darunter zwei Bären, die Schofarhörner halten und darüber zwei Vögel. Die Innenseite der Tür zeigte eine aus Metall geschmiedete Menora und Tische für Brote, die mit biblischen Zitaten umrandet waren. Der untere Teil der Metalltür trug die Signatur der Auftragnehmer: Zelaman und Chaim, Söhne von Aaron.

Die Geldbüchse am Eingang und die freigelegten Fragmente einer Wandmalerei aus dem 17. Jahrhundert, die in den 1960er Jahren entdeckt und saniert wurden, erinnern ebenfalls an die einstige Pracht des Tempels. Diese Fragmente zeugen davon, dass die Wände im Männersaal, einschließlich der Fensterzargen, mit Inschriften versehen waren, die in Borten, manchmal in Form eines kreisförmigen Kranzes, eingeschlossen waren. Sie stellen zum Beispiel segnende Hände unter der Tora-Krone oder großformatige Armleuchter-Kompositionen aus Blumensträußen in Vasen dar. Zwischen den Fenstern an der Südwand steht ein Zitat aus dem Buch Genesis: “Oh, wie schrecklich ist dieser Ort. Es ist das Haus des Herrn und die Pforte des Himmels“, an dem sich das Datum der Restaurierung der Synagoge 1863 befindet. Die restlichen Wandmalereien sind aufgrund von zwei oder drei aufeinander aufgetragenen Schichten aus dem 17. bis 19. Jahrhundert praktisch unlesbar.

Über dem ehemaligen Eingang in den Saal im ersten Obergeschoss befindet sich ein Relief mit Gesims und einem symmetrisch angeordneten floralen Ornament aus dem späten 19. Jahrhundert.

An der Außenwand der Synagoge befindet sich eine Gedenktafel mit einer Inschrift in polnischer Sprache, die von einem Davidstern und einer Inschrift in jiddischer Sprache bekrönt wird: הויכע שול (trl. hojche szul, was bedeutet die Hohe Synagoge), die an die ursprüngliche Bestimmung dieses Gebäudes erinnert. „In diesem Gebäude befand sich die Hohe Synagoge, die im 16. Jahrhundert erbaut und 1939 von den deutschen Besatzern zerstört wurde“.

1966 wurde die Synagoge unter Obhut der Denkmalpflegewerkstatt gestellt. Im Gebetssaal wurden die historischen Wandmalereien aus dem 17. Jahrhundert gesichert und konserviert. Die Sanierungsarbeiten wurden erst 1971 abgeschlossen.

2005 wurde die Synagoge für die Öffentlichkeit zugänglich gemacht. Hier finden Ausstellungen über polnische Juden, Konzerte und andere kulturelle Veranstaltungen statt. 2008 wurde das Gebäude der Hohen Synagoge an die Jüdische Gemeinde Kraków übergeben, die es dem Verlag Austeria überließ.

Das Gebäude dient derzeit als ein Ausstellungs- und Konferenzraum. Von der historischen Ausstattung der Synagoge ist bis heute ein barocker Chanukka-Leuchter aus dem 17. Jahrhundert erhalten geblieben, der im Rahmen der Ausstellung in der Alten Synagoge zu sehen ist.