Les murs d'origine de la basilique mérovingienne sont encore conservés jusqu'à une hauteur de 16 mètres. C'est ce qu'ont révélé de récentes fouilles et recherches architecturales. Depuis, les investigations menées à Mayence suscitent un vif intérêt auprès du grand public.

Au VIIe siècle, l'ancienne cathédrale de Mayence a été construite, en partie sur les murs d'un édifice précédent datant du IVe/Ve siècle. La cathédrale était conçue comme une basilique à trois nefs avec un double chœur et un transept ouest. Avec une nef centrale de 13 mètres de large, elle était pour l'époque un édifice monumental.

La construction de la nouvelle cathédrale (Willigisdom) en 1036 entraîna sa transformation en collégiale. Le transept ouest fut démoli et les nefs latérales prolongées afin d'allonger visuellement la courte nef. Le chœur ouest fut construit au XIVe siècle. Un jubé fut probablement érigé à la même époque, dont le socle et les fondations ont pu être mis au jour lors des dernières fouilles. Après une transformation baroque (démolition du jubé et rehaussement du sol), l'église fut d'abord transformée en entrepôt de paille et dépôt militaire pendant la période française. Elle fut ensuite cédée à la communauté protestante (1828), qui transforma le bâtiment en un lieu de culte protestant, avec un orgue, une chaire centrale et des tribunes dans la nef principale. En 1906, l'architecte Friedrich Pützer a procédé à une nouvelle transformation intérieure dans le style Art nouveau de Darmstadt. Après un raid aérien en 1942, l'église a été détruite par un incendie. Après une rénovation coûteuse par l'architecte Karl Gruber, St. Johannis a été réinaugurée en 1956 dans un style simple et historiciste. Depuis 2013, des recherches approfondies sont menées sur l'histoire de la construction.

En raison des fouilles, l'église est actuellement fermée. Les visites ne sont possibles que sur rendez-vous. Contact téléphonique : +49 6131 9205886.