Pierwsza wzmianka o kościele pochodzi z 1317 roku, ale jego najstarszą, późnoromańską część, dziś będąca prezbiterium, wybudowano w XIII wieku. Kościół rozbudowano w stylu gotyckim za panowania króla Kazimierza Wielkiego, gdy wzniesiono trzy równej wysokości nawy wsparte na potężnych, ośmiobocznych filarach, zwieńczone sklepieniem krzyżowo-żebrowym. W XV wieku dobudowano kaplicę świętej Anny. Pod koniec XVI wieku kościół przebudowano. W 1620 roku powstała renesansowa kaplica Loretańska zwana Amendzińską, fundacji bogatego olkuskiego górnika Stanisława Amendy, wzorowana na kaplicy Zygmuntowskiej na Wawelu. Wtedy też dobudowano przedsionki – dużą i małą kruchtę. Pod koniec XVIII wieku obok kościoła stanęła kaplica świętego Jana Kantego, a w 1913 roku neogotycka dzwonnica wysokości 63 metrów. Najcenniejszym zabytkiem jest gotycki ołtarz z XV wieku zwany Poliptykiem Olkuskim, jeden z czterech takich w całej Polsce, uznawany za dzieło wybitne, charakteryzujące się wielkim bogactwem środków wyrazu. Na jego skrzydłach widać 16 scen przedstawiających życie Jezusa, Matki Boskiej i świętej Anny. Autorem obrazów byli: znany malarz krakowski Jan Wielki, współpracownik Wita Stwosza oraz Stanisław Stary. W prezbiterium widać drewniane stalle z XVI wieku, a nad nimi fresk z XIV wieku przedstawiający alegorię uczynków miłosierdzia i grzechów głównych. Cenne są również późnorenesansowe organy z 1611 roku, dzieło niemieckiego organomistrza Hansa Hummla, które jako jedne z nielicznych w Europie zachowały oryginalny mechanizm i większość piszczałek. Pamiątkami górniczej historii Olkusza jest odlana z ołowiu chrzcielnica z XVI wieku i wysoki srebrny Krzyż Gwarków z XVII wieku, dar olkuskich górników. Nad ołtarzem, na ścianie prezbiterium widać freski z herbami Polski i Olkusza trzymanymi przez gwarków (olkuskich górników w charakterystycznych strojach).  Wnętrze kościoła zdobią nagrobki mieszczan z charakterystycznymi gmerkami, czyli mieszczańskimi herbami.

Ośmioboczne filary wspierające nawy pokryte są ponad setką geometrycznych wizerunków świętych i nieświętych z przynależnymi im atrybutami, wykonanych metodą sgraffito, oszczędne i surowe w formie, o ciepłej brązowo-miodowej tonacji niczym neolityczne malowidła ścienne. Z ich autorem, wybitnym i kontrowersyjnym zarazem konserwatorem zabytków Józefem Edwardem Dutkiewiczem związana jest tajemnicza historia, klątwa jak mawiają niektórzy. Dutkiewicz był zwolennikiem wprowadzania do zabytkowych wnętrz elementów współczesnej dekoracji, co nie podobało się wszystkim. Ponoć jego polichromia w olkuskiej Bazylice miała być zamalowana. Sam artysta w 1968 roku podczas prac w kościele spadł z rusztowania i zginął na miejscu.