Fragment murów obronnych z basztą przy ulicy Szpitalnej pokazuje, jak wyglądał w średniowieczu system obronny Olkusza. 

Początkowo miasta broniły wały ziemne. Jak podaje Jan Długosz, za czasów Kazimierza Wielkiego Olkusz został otoczony kamiennym murem i fosą. Mur miejski, o prawie dwumetrowej grubości miał ponad 1100 metrów długości i 9 metrów wysokości. Broniło go dodatkowo około 15 baszt zbudowanych na planie prostokąta. Do miasta można było wjechać przez dwie główne bramy; Krakowską i Sławkowską, choć są hipotezy, że była także brama Wolbromska. Z czasem, dla wygody mieszkańców wybijano w murze tzw. furty, czyli niewielkie przejścia. Rozwój techniki wojskowej sprawił, że mury obronne nie spełniały już swej roli i przestano o nie dbać. W XVIII wieku obwarowania miejskie były w złym stanie, a fosę niemal w całości zasypano. Na początku XIX wieku mury miejskie zostały rozebrane.Przed laty grupa miłośników historii Olkusza podjęła się odbudowy fragmentu muru i baszty na oryginalnych fundamentach. Trwające kilkanaście lat prace zakończyły się w 1986 roku. Autorem projektu rekonstrukcji baszty i muru był prof. Janusz Bogdanowski. Odbudowana baszta jest wybudowana z dwóch rodzajów kamienia. Fragmenty muru i baszty zbudowane z czerwonego piaskowca pokazują stan z XIV wieku, z czasów, kiedy powstawał miejski system obronny. Wtedy baszta była otwarta od strony miasta, wznosiła się na wysokość muru i była zwieńczona, podobnie, jak mur blankowanym krenelażem. Część muru i baszty wybudowana z białego wapienia, pokazuje zmiany, jakie zaszły w XV wieku, kiedy nadbudowano i zadaszono basztę. We wnętrzu baszty, gdzie znajduje się popularna kawiarnia, można zobaczyć oryginalne fragmenty muru pochodzące z XIV wieku. Po drugiej stronie ulicy Basztowej wznosi się stumetrowej długości dalszy odcinek murów miejskich Olkusza. W połowie długości mur stanowi tylną ścianę XVII wiecznej kaplicy św. Jana Kantego. Według legendy, w tym miejscu wznosił się dom olkuskiego proboszcza Jana Kantego.