La basilique funéraire - également appelée église-basse ou crypte - est la partie la plus ancienne de l'édifice. Réalisée à partir de 1081 par le premier atelier ayant œuvré à la construction de l'église, elle comprend deux croisillons à absidioles orientées, un triple vaisseau comprenant quatre travées droites couvertes dans leur partie centrale d'une voûte d'arêtes surbaissée supportée par de puissants tores, ainsi qu'une abside intégrant un déambulatoire et une série de trois chapelles rayonnantes voûtées en cul-de-four. Des baies en plein cintre assurent un éclairage régulier du sanctuaire.
Quatre paires de piles massives, aux socles circulaires ou cruciformes, marquent la limite entre le vaisseau principal et les bas-côtés. Les sculptures des chapiteaux, ornés principalement de motifs végétaux et d'entrelacs d'inspiration antique, constituent l'un des ensembles remarquables du sanctuaire. À l'entrée de l'église-basse, un large bandeau composé de motifs floraux assez grossiers présente les caractéristique de la sculpture mérovingienne. Il pourrait s'agir d'un élément de réemploi provenant de l'ancienne basilique construite au VIe siècle par l'évêque Palladius.
Les dimensions de l'église-basse en font l'une des plus vastes cryptes romanes d'Europe : sa longueur totale est ainsi de 35 mètres de long pour une hauteur sous voûte de 5 mètres. Un escalier permettait autrefois d'accéder directement à l'église-haute via une nef commune, disposition unique aujourd'hui rompue par la destruction de cette dernière en 1803. Une vaste campagne de restauration de l'église-basse a été menée au début du XXe siècle.
Au centre de la crypte, le cénotaphe monolithe rappelle la mémoire du saint.