Gli ospedali del Medioevo non corrispondevano a ciò che oggi si potrebbe immaginare. Il Santo Spirito era una struttura polivalente, una sorta di «istituto misto». Qui vivevano pellegrini e senzatetto, stranieri e poveri, anziani – e anche malati, sebbene questi ultimi rappresentassero probabilmente una minoranza. Pertanto, la loro cura non era al centro dell’attenzione. Presumibilmente il piano inferiore era riservato agli uomini, mentre le donne erano ospitate al piano superiore.

Poiché in quei tempi la carità pubblica era una questione puramente ecclesiastica, l'assistenza agli ospiti era affidata alla Confraternita dello Spirito Santo. Di questa facevano parte sia uomini che donne che avevano pronunciato voti simili a quelli monastici e si erano impegnati a servire lo Spirito Santo per tutta la vita (Dr. Ludwig Falck).

La particolare posizione dell'edificio, che nel XIII secolo sporgeva per metà oltre le mura della città sul lato del Reno, consentiva a chi arrivava in ritardo di accedere all'ospedale attraverso il portale orientale anche dopo la chiusura delle porte della città.

Questa consuetudine fu mantenuta anche in seguito, dopo lo spostamento delle mura cittadine, attraverso una piccola porta sul lato sud-est. L'andamento irregolare delle mura cittadine richiedeva inoltre che le guardie di pattuglia, nel loro percorso dalla Torre di Ferro alla Porta dei Pesci, dovessero attraversare un'apertura nel piano superiore dell'ospedale per poter raggiungere nuovamente il proseguimento delle mura attraverso un'altra porta.

Già nel 1244 l'amministrazione dell'ospedale passò alla città, ormai libera, ma con la perdita dei diritti di città nel 1462 tornò nuovamente alla Chiesa, che trasformò l'edificio in una casa di riposo per donne. Sotto i nuovi signori, l'edificio subì una parziale ristrutturazione interna in epoca tardo-gotica, alla fine del XV secolo. In tale occasione, anche le finestre romaniche furono sostituite da alte finestre gotiche.

Nel 1804 i francesi ordinarono la chiusura dei vecchi ospedali di Magonza. In seguito, l’Ospedale dello Spirito Santo fu adibito a vari usi, tra cui quello di magazzino e di sede per le lezioni di ginnastica.

Nel 1863 la Brey’sche Aktien-Brauerei vi aprì per la prima volta un ristorante. A quel tempo l’ospedale era di proprietà della comunità cattolica tedesca, che celebrava le proprie funzioni religiose al piano superiore dell’edificio. Nel 1888 fu venduto alla Mainzer Aktienbrauerei.

Durante il bombardamento della RAF su Magonza del 27 febbraio 1945, l'intero centro città fu avvolto dalle fiamme. Anche l'Heilig-Geist fu distrutto dal fuoco. I danni, tuttavia, furono limitati. Il danno maggiore riguardò il tetto, che poté essere ricostruito poco dopo la fine della guerra.

Negli anni '50 l'Heilig-Geist era una popolare sala da ballo. A partire dal 1975, un restauro riportò alla luce l'ospedale, che nei secoli precedenti era stato notevolmente ampliato e costruito soprattutto sul lato del Reno.

Nel tentativo di riportare l'edificio al suo stato originario romanico, furono tuttavia eliminati anche gli elementi tardo-gotici della facciata esterna, comprese le finestre a traforo.