Mykwa istniała w Krakowie prawdopodobnie już na przełomie XV i XVI wieku. Jednak pierwsza wzmianka w dokumentach na temat istnienia tej ważnej dla społeczności żydowskiej instytucji pochodzi dopiero z 1567 roku. Uznaje się zatem, że budynek żydowskiej łaźni rytualnej powstał przy ul. Szerokiej 6 niedługo przed rokiem 1567. Informacja o nim znalazła się nieco później w statucie gminy z 1595 r. (obok drugiej, która mieściła się w okolicy Placu Nowego a obecnie nie istnieje). W XVII w. nazywano ją „Wielką Mykwą”. Mykwa funkcjonowała w tym samym miejscu przez kolejne wieki, a jej budynek zachował się do obecnych czasów. Jest to budynek murowany z kamienia łamanego, otynkowany. Część centralna jest dwukondygnacyjna, tam też znajduje się klatka schodowa. Jedno z pomieszczeń parterowych posiada strop wsparty na czterech filarach. Przypuszcza się, że tam właśnie było zejście do basenu. Trzeba sobie bowiem wyobrazić, że niegdyś pod poziomem piwnic znajdował się basen, do którego schodziło się po 40 schodkach. Do dzisiejszych czasów w piwnicach zachowały się fragmenty muru z kamienia łamanego, części arkady oraz układ pomieszczeń. Obecny wygląd budynku pochodzi z pocz. XIX w., kiedy to przeprowadzono gruntowny remont. Później mykwa była jeszcze kilkakrotnie remontowana i modernizowana. Łaźnia funkcjonowała do wybuchu II wojny światowej. W okresie okupacji została zdewastowana przez Niemców. Ocalał jednak piwniczny basen kąpielowy, zasypany jednakże wraz z innymi pomieszczeniami piwnicznymi. W latach 90. XX w. nieruchomość została zwrócona Gminie Wyznaniowej Żydowskiej w Krakowie. Początkowo pomieszczenia na pierwszym piętrze wykorzystywano jako sale wystawowe. W 1995 r. gmina zgodziła się na ulokowanie w niej restauracji oraz hotelu Klezmer-Hois. Ma tu także swoją księgarnię Wydawnictwo Austeria, Mykwa jest udostępniana do zwiedzania.

Budynek został wpisany do rejestru zabytków pod numerem A-306 w dniu 07.07.1966 roku.