A mai Március 15. téren állt a Contra Aquincum katonai erőd, amelynek a parancsnoki szobája a mai templom alatt húzódott. A Contra Aquincum délkeleti sarkán, a "cella trichora" romjai fölé épült Szent István korában egy templom, amiről kevés adat áll rendelkezésre. A XI-XII. században a Contra Aquincum köveinek felhasználásával épült fel az a román stílusú templom, melynek alapfalait még ma is láthatjuk az altemplomban. Ezt templomot a XII. században átalakították. Az ekkor épített templom fala a déli toronyban található fal, mely Budapest legnagyobb épségben maradt román kori fala. 1211-ben itt tartották a 4 éves királylány, a későbbi Szent Erzsébet eljegyzését a türingiai Hermann őrgróffal. A tatárjárás alatt a templom teljesen elpusztult. IV. Béla Pest újratelepítése során a templomot kijavíttatta. 1285-ben a 2. tatárjárás alatt újból megrongálódott a templom.

A XIV. században alakították ki a szentély-körüljáró folyosót. Ekkor bontották el a három félköríves apszist, és a templomteret is kibővítve felépítették a gótikus sokszögzáródású szentélyt, amiben oszlopokkal választották le a liturgius tértől a szentélykörüljárót, a falába süllyesztett díszes ülőfülkékkel. A déli zarándokkapu eredeti formájában és a déli torony is ekkor készülhetett a román kori déli homlokzat elé. A folyosó közepén, a templom főtengelyében található fülkében látható a Trónoló Madonna freskó. A XIV. század elejére datált freskót a 2010-es restaurálási munkálatok folyamán fedezték fel. A fülke oldalfalán püspökszent (valószínűleg Szent Gellért püspök) ábrázolása látható. A szentély-körüljáró gótikus ülőfülkéi a XV. században freskódíszítést kaptak.

1458. január 23-án a templomban tartották a Hunyadi Mátyást királlyá választó gyűlést. 1490-ben II. Ulászlót szintén itt választották meg. Mátyás és II. Ulászló alatt a templomot késő gótikus stílusban építették át. Ekkor készültek a külső falakon látható pálcatagos kapukeretek és a sekrestye akkor még emeletes épülete. A szentély ülőfülkéit részben elfalazták, részben freskósorozattal ékesítették. Az ülőfülkék eredeti kőelemein helyenként látszanak a középkori festés maradványai, melyek Krisztus szenvedéstörténetét örökítették meg. Ebben az időszakban alakították át az északi oldalkápolnát, a déli fölé pedig oratórium épült.

Buda és Pest 1541-es elfoglalása után a törökök mecsetté alakították át. Az 1578-as földrengéskor és a 15 éves háború harcai során is megsérült az épület. A török uralom második felében a templom romos állapotban volt, csak a szentély részét használták mecsetként. A templom törökök általi átalakításának ma is látható részlete a szentély déli falán található ún. mihráb (imafülke).

1686 után a templomot több részletben, már a barokk jegyében építették újjá. Először a szentélyt javították ki, majd 1725 és 1795 között átépítették a hajót és 1724-ben, valamint 1740-ben megépítették a tornyokat. A déli torony tartalmazza a gótikus torony részeit, az északi teljes egészében a XVIII. század végén épült. A barokk főkapu Hörger Antal munkája.

Kossuth Lajos itt kötött házasságot Meszlényi Teréziával. Liszt Ferenc 1858 és 1871 között gyakran szállt meg a templom melletti plébániaépületben, sőt hét éven keresztül ott is lakott és vezényelte a templom kórusát.

Rómer Flóris hívta fel a figyelmet a templom építészeti értékeire. 1889-ben a kor egyik legjelentősebb építésze, Steindl Imre restaurálta a szentélyt korának elvárásai szerint. Az Erzsébet-híd építése során még hátrébb is akarták „tolni” a templomot, de végül erre nem került sor.

A karzaton látható orgona 1932-ben készült Budapesten. 5.621 sípjával Budapest egyik legjelentősebb orgonája.

1932 és 1944 között ásatást és falkutatást végeztek a templomban. A II. Világháború sérüléseit 1948-ra javították ki Gerő László vezetésével. Az 1890-ben Steindl Imre által tervezett főoltár az 1945-ös ostrom alatt pusztult el. Helyébe 1946-1947-ben süttői kemény mészkőből szárnyas oltárt állítottak Molnár C. Pál festményeivel. Az ostrom okozta külső sérüléseket a templomon a Fővárosi Műemlék Felügyelőség hozatta rendbe. A belső festés 1979-ben fejeződött be. 1985-ben az altemplom kazánházából hittanterem létesült, a főoltáron Molnár C. Pál festményei Csiby Mihály által felújításra kerültek. 1968-ban a barokk rész egysoros ablakai duplítást nyertek és 1987-ben elektromos hőtároló kályhákkal a templom fűthetővé vált. 1991-től elkezdődött a 100 éves Rieger orgona restaurálása.

A 2014-2015-ös ásatás során a hajóban az Árpád-kori alapfalakat és az alattuk húzódó római maradványokat feltárták és láthatóvá tették. A templom altemplomát a 2014 és 2016 között végzett feltárás és restaurálás során alakították ki. Az altemplomban elhelyezett vitrinekben megtekinthetők a feltárások során előkerült tárgyak, a plébánia régi kottái és misekönyvei, a II. világháborúban megsemmisült Zsolnay oltár töredékei, a 12 apostol aranyozott faszobra, a Nürnbergi Madonna másolati márványszobra, és a Brünni Madonna ikonképe. Az altemplomi kápolna tabernákulumától balra elhelyezett üvegvitrinben látható XI. Pius pápa ajándéka, az ún. Szent Kereszt ereklye.

A templom az 1997. évi LIV. törvény alapján 15 396. törzsszám alatt I. kategóriába sorolt műemlék. Anyakönyvek 1688-tól állnak rendelkezésre.

A templom majd 300 éves tornyaiban 2019 januárja és 2020 júniusa között nagyon intenzív munka folyt: megújultak a tornyok, és azokban kilátópontok kerültek kialakításra.

Az Erzsébet-hídhoz közelebbi ún. déli toronyban 3 személy szállítására alkalmas lift került kialakítása. Ebben a földszinti térben található az a XII. századi falmaradvány is, amely a román stílusú bazilika külső falszakasza volt. A látogatók a toronyban két emeleti szintet kereshetnek fel. Szintenként 3-3 irányban nyílik kilátás Budapest belvárosára. A kitekintő ablakok mélyedésében érintőképernyős monitorok vannak elhelyezve, amelyek 7 nyelven adnak tájékoztatást a budai oldal látnivalóiról. A második kilátószintről lehet átmenni az északi toronyba. A templom épületének homlokzata mögött kialakított fedett sétányon történő haladáskor nagyszerű látvány tárul fel, hiszen láthatjuk az épület míves tetőszerkezetét, a fedélszéket. Itt ezen kívül egy végtelenített time-lapse videó mutatja be Budapest éjjel-nappal lüktető életét. Átérve a másik toronyba, szintén 3 irányban tudunk kitekinteni, és gyönyörködni a panorámában. Ezt a tornyot korábban északi toronynak nevezték, de ez az elnevezés 2020 júniusában megváltozott. A tornyot ezt követően Liszt Ferenc toronynak hívják. A Liszt Ferenc toronyból lépcsőn ereszkedhetünk le ismét a földszintre, és léphetünk be újra a templomi előtérbe, befejezve ezzel a sétát.

A templomban három magyar szent az ereklyéje található meg: A Pest város által 1507-ben adományozott pasztoforium (szentségház) a hazai reneszánsz művészet kiemelkedő emléke, amely Szent László ereklyéjét őrzi. A főhajó másik oldalán helyezkedik el a pasztofórium párja, amit Nagyrévy András címzetes püspök adományozott a templom számára. Ebben található Árpád-házi Szent Erzsébet ereklyéje. A harmadik ereklye a szembemiséző oltár belsejében látható. Szent Gellért püspök testét a legenda szerint 1046-ban vértanúhalála után a pesti templomba, a mai templom elődjébe temették. Ereklyéi 2002-ben, több mint 950 év után visszatértek hajdani őrzési helyükre az itáliai Muránóból.