Stoi na zwieńczeniu najbardziej ruchliwej, obleganej przez turystów i studentów ulicy miasta. Jego widoczna z daleka strzelista wieża stała się znakiem rozpoznawczym i punktem odniesienia stolicy Górnego Śląska.
Ta neogotycka świątynia na planie krzyża łacińskiego zbudowana z ciosów kamiennych w latach 1862–1870 jest najstarszym zachowanym kościołem katolickim centrum Katowic. Jej kapłani prowadzili duszpasterstwo w raczkującym i niezwykle dynamicznie rozwijającym się mieście (wieś otrzymała prawa miejskie dopiero w 1865 roku). Duszpasterze kościoła Niepokalanego Poczęcia Najświętszej Maryi Panny mieli ręce pełne roboty, bo do nowego miasta ściągały z okolicy tłumy szukających pracy robotników.
Działania na rzecz założenia na terenie Katowic parafii podjęto już w 1860 roku, a głównym ich inicjatorem był księgowy Tiele-Wincklerów Heinrich Knappe. Biskup wrocławski Heinrich Förster zgodził się na wydzielenie z parafii bogucickiej Katowic wraz z Brynowem, a pierwsza tymczasowa świątynia z muru pruskiego stanęła na północny zachód od dzisiejszego placu Wolności. Kościółek był jednak zbyt mały.
Monumentalny kościół Mariacki, który miał stanąć nieopodal kościoła ewangelickiego, zaprojektował ceniony wrocławski architekt Alexis Langer. Ostatniego dnia sierpnia 1862 roku uroczyście wmurowano kamień węgielny. Budowa trwała osiem lat i została ukończona w listopadzie 1870 roku. W sporej części sfinansował ją bp Heinrich Förster.
Poświęcenia dokonał 20 listopada 1870 roku wrocławski sufragan bp Adrian Włodarski.
Ogromny wpływ na wnętrze kościoła (przez lata ulegało wielu zmianom) miał proboszcz parafii mariackiej (od 1926 roku), koneser sztuki ks. Emil Szramek. W murowanym, licowanym piaskowcem kościele zawisło sześć maryjnych obrazów autorstwa Józefa Unierzyskiego.
Wierni zachwycali się witrażami z przeł. XIX i XX w. projektu wybitnego artysty Adama Bunscha, ucznia Mehoffera.
Gdy proboszczem parafii został późniejszy metropolita katowicki Damian Zimoń, przystosował świątynię do zmian posoborowych. W 1977 roku umieszczono w prezbiterium obraz Matki Bożej Niepokalanej autorstwa Witolda Pałki. Wielu katowiczan przychodzi tu regularnie, by w ciszy adorować Najświętszy Sakrament.
2 lutego 1982 roku kościół Mariacki został wpisany do rejestru zabytków nieruchomych.