Datant de la seconde moitié du XIIe siècle, cette partie de l'édifice constitue un exemple architectural unique dans la région. Il s'agit d'une petite crypte rectangulaire à trois nefs, située sous l'abside polygonale et la petite travée du choeur, accessible par les bas-côtés. Elle fut transformée en chapelle et pourvue d'un nouvel autel en 1323, lors du transfert du sarcophage de saint Ursanne sous le maître-autel. Voûte d'arêtes divisée en neufs compartiments reposant sur quatre piliers monolithiques du XIe siècle. Contre les murs de l'abside, demi-colonnes engagées, à chapiteaux cubiques, reposant sur des bases à griffes et des plinthes. Les différentes bases remontent à 1323 et au XVe siècle. A l'ouest, dosserets rectangulaires portant des impostes, et niche carrée avec une petite ouverture aujourd'hui en partie murée (fenestella) qui permettait de voir le sarcophage de saint Ursanne. Des trois petites fenêtres en plein-cintre, seule celle du nord a conservé son état original. Décor peint, de style baroque, fortement reconstitué en 1903.

Informations tirées en majeure partie de cet ouvrage : Berthold, Marcel, Arts et monuments. République et Canton du Jura, Ed. Bugra Suisse 1989