Strzelista gotycka świątynia powstała na przełomie XIII i XIV wieku. Najstarsza część kościoła stanowi obecnie prezbiterium.

Wybudowany z cegły i miejscowego, czerwonego piaskowca kościół został rozbudowany w czasach Kazimierza Wielkiego. W XV wieku do południowej ściany dobudowano kaplicę św. Anny. Na początku XVII wieku dobudowano kruchtę oraz renesansową kaplicę Loretańską. Najcenniejszym zabytkiem olkuskiej świątyni jest gotycki poliptyk z końca XV wieku, jeden z czterech takich ołtarzy w Polsce. Warto też zwrócić uwagę na renesansowy ołtarz z początku XVII wieku z obrazem św. Andrzeja Apostoła - patrona kościoła. Niezwykłym zabytkiem są późnorenesansowe organy, których budowę rozpoczął w 1611 roku wybitny organomistrz Hans Hummel. O wyjątkowości instrumentu stanowi fakt, że olkuskie organy, jako jedne z nielicznych w Europie zachowały oryginalny mechanizm i znaczną większość spośród 1776 piszczałek. Od kilkunastu lat, jesienią olkuski kościół rozbrzmiewa dźwiękami muzyki dawnej podczas Dni Muzyki Organowej. Pamiątkami górniczej przeszłości miasta jest chrzcielnica wykonana pod koniec XVI wieku z olkuskiego ołowiu i okazały, półtorametrowej wysokości srebrny krzyż gwarków, podarowany w XVII wieku przez olkuskich górników. Wnętrze kościoła zdobią nagrobki mieszczan z charakterystycznymi gmerkami i gotyckie stalle. Stojąca obok kościoła neogotycka dzwonnica została zbudowana na początku XX wieku.