Della chiesa originale conserva il suo stile romanico con il portico a tre archi (aggiunto nel XII sec.), il campanile, con le sue bifore romaniche (costruito sulle fondamenta di un'antica torre romana). La parte superiore della facciata fu profondamente modificata dall'architetto Martino, che vi inserì delle grandi finestre nel '700. Da osservare le figure di "mostri", sopra gli archi, che emettono dalla bocca fregi ornamentali residuo delle credenze e delle leggende medievali ed orientali. Ci restano comunque numerose decorazioni eseguite (secondo gli studi del prof. Arduino Scaccia Scarafoni) dai benedettini, e che ricordano altre opere da loro realizzate in terra abruzzese. La doppia scalinata che sale verso il portico fu aggiunta nel '700. Un gran colpo d'occhio è dato dalle tre imponenti absidi, visibili dalla Passeggiata San Giuseppe.

All'interno, in fondo alla navata sinistra, si può ammirare una grande tela della metà del '700, opera di Sebastiano Conca (più recentemente lo stusioso verolano, Marcello Stirpe, ne ha attribuito la paternità al Kuntze). La tela ricorda l'incontro avvenuto nel 1170 nella basilica di Sant’Erasmo, tra i rappresentanti della Lega Lombarda, il Papa Alessandro III ed Everardo Vescovo di Bamberga, quest'ultimo in rappresentanza dell’Imperatore Federico Barbarossa. Un incontro che servì a concordare i termini di una possibile pace. Altra opera di rilevante interesse, sempre nella navata di sinistra è il "Battesimo di Gesù".

Il 26 marzo 1570 la basilica fu teatro di prodigi operati dall’Ostia consacrata. Prodigi ufficialmente riconosciuti dopo una lunga serie di testimonianze e processi. A ricordo dell'evento, nella cappella del Sacramento, è custodito un calice d'argento dorato (del XIV sec.). Il calice viene oggi utilizzato per la celebrazione della S. Messa soltanto il martedì successivo alla Pasqua.