Gmina żydowska w Moguncji należy do najstarszych w niemieckojęzycznym obszarze kulturowym. Już w X wieku istniała tu społeczność żydowska. Zasłynęła ona dzięki działalności swoich uczonych, którzy uczynili Magenzę religijnym i kulturalnym centrum judaizmu w średniowieczu.

Rozkwit kultury, w dużej mierze autonomiczne życie społeczności oraz własne obiekty kultowe, takie jak synagoga, mykwa, masarnia i piekarnia, nie mogą jednak przesłaniać faktu, że pozycja społeczna Żydów w Moguncji przez cały okres średniowiecza była nieustannie zagrożona. Napięcia w polityce zagranicznej i wewnętrznej mogły szybko przerodzić się w egzystencjalne zagrożenie dla Żydów. Już pierwsza krucjata zakończyła się w 1096 r. katastrofą dla gminy żydowskiej w Moguncji. W związku z wezwaniem do wyprawy wojennej przeciwko muzułmanom w celu wyzwolenia Ziemi Świętej nastroje wobec Żydów, powszechnie piętnowanych jako mordercy Jezusa, uległy radykalizacji. Podburzeni fanatycy i poszukiwacze przygód przemierzali kraj w hordach, mając na celu zniszczenie Żydów we własnym kraju. Ówczesny arcybiskup Ruthard uchybił swojemu obowiązkowi ochrony Żydów z Moguncji, uciekając i pozostawiając ich na pastwę rzezi. W masakrze zginęło ponad 1000 Żydów, a arcybiskup Ruthard był podejrzany o wzbogacenie się na ich majątku.

Jak szybko ogólne kryzysy mogą przerodzić się w agresję wobec Żydów, pokazują wydarzenia podczas epidemii dżumy w 1349 roku. Bezsilność w walce z tą plagą wyrażała się w dzikich spekulacjach na temat przyczyn tej choroby, w których za winnych uznano Żydów jako rzekomych trucicieli studni. Żydzi z Moguncji, którzy od prawie stu lat byli zobowiązani do noszenia żydowskiego kapelusza i żółtego pierścienia z tkaniny, również znaleźli się pod podejrzeniem i ponownie zostali wydani na pastwę rozgniewanego tłumu. W burzliwym dla Moguncji okresie XV wieku doszło do wielokrotnych wypędzeń Żydów. Wydarzenia te były naznaczone walkami o władzę w obrębie miasta, poważnymi trudnościami finansowymi i utratą swobód miejskich w wyniku wojny o arcybiskupstwo w Moguncji. W 1471 r. wszyscy Żydzi musieli ostatecznie opuścić państwo kurialne. Ich majątek ziemski został skonfiskowany przez państwo, a synagoga w Moguncji przekształcona w kaplicę chrześcijańską.

W drugiej połowie XVI wieku Żydzi ponownie osiedlili się w Moguncji, gdzie przyznano im tymczasowe, przedłużalne prawo pobytu w zamian za opłacanie tzw. opłat ochronnych, co stanowiło dla księcia elektora mile widziane dodatkowe źródło dochodów. Jednak dopiero w połowie XVII wieku w Moguncji ponownie powstała spora społeczność żydowska.

Rozwój gminy żydowskiej był jednak obserwowany z dużą podejrzliwością. W szczególności cechy rzemieślnicze, które po wojnie trzydziestoletniej borykały się z nadal złą sytuacją gospodarczą, skarżyły się na rosnącą konkurencję ze strony Żydów. Książę elektor Johann Philipp von Schönborn wysłuchał ich skarg i 8 grudnia 1662 r. wydał dekret mający daleko idące konsekwencje dla żydowskich mieszkańców Moguncji.

Wykluczeni z cechów rzemieślniczych, a tym samym z większości zawodów rzemieślniczych, Żydzi zostali objęci dalszymi ograniczeniami gospodarczymi, takimi jak zakaz prowadzenia „otwartych sklepów” lub zezwolenie na handel wyłącznie określonymi towarami. Liczba chronionych rodzin żydowskich została początkowo ograniczona do 20, a wkrótce potem do 10, a przyszła dzielnica mieszkalna została ograniczona do istniejącej już wówczas Judengasse, która musiała być zamknięta z obu stron. Ograniczenie liczby dopuszczonych rodzin żydowskich w Moguncji nie mogło być utrzymane i wkrótce zostało podwyższone do 101 rodzin. Ograniczenie obszaru mieszkalnego do jednej ulicy pozostało jednak w mocy. W ciągu dziesięcioleci prawo do zamieszkania zostało rozszerzone na dwie uliczki, Geschlossene Judengasse i Offene Judengasse (od połowy XIX wieku: Vordere i Hintere Synagogengasse), które biegły równolegle do siebie i znajdowały się między ulicami Klara- i Löwenhofstrasse. W wyniku stałego wzrostu liczby członków gminy żydowskiej, która około 1790 roku liczyła około 543 osoby, przestrzeń mieszkalna w dzielnicy żydowskiej stawała się coraz bardziej ograniczona. Stojąc blisko siebie, znajdowały się tu niezwykle wąskie domy, które były ponadprzeciętnie wysokie i głębokie.

Filozofia oświecenia, oparta na zasadzie równości wszystkich ludzi, po raz pierwszy przyniosła efekty dla Żydów z Moguncji za panowania książąt elektorów Emmericha Josefa von Breidbach-Bürresheima (1763-1774) i Friedricha Karla Josefa von Erthala (1774-1797). Żydzi otrzymali pozwolenie na zamieszkanie poza dzielnicą żydowską, przyznano im prawo do studiowania medycyny na Uniwersytecie w Moguncji, a żydowskie dzieci po raz pierwszy mogły uczęszczać do szkół chrześcijańskich. Równość prawna z chrześcijanami nadeszła dla Żydów z Moguncji w okresie okupacji francuskiej w latach 1792/93 i 1798-1814, jednak nadal pozostawali oni nieufni wobec swoich nowych panów.

Interwencje władz państwowych w sprawy gminy żydowskiej oraz wprowadzenie dyskryminującego dekretu Napoleona z 1808 r., który nakładał na Żydów obowiązek posiadania tzw. „patentu moralności” w celu wykonywania zawodu, potwierdziły tę nieufność. Po wojnach wyzwoleńczych i zakończeniu ery napoleońskiej w Europie sytuacja prawna Żydów z Moguncji wydawała się znacznie korzystniejsza w porównaniu z sytuacją sąsiednich Żydów we Frankfurcie. Jednak niektóre ograniczenia nadal obowiązywały. „Haniebny dekret” z 1808 roku został uchylony dopiero w 1847 roku, a Żydom przez długi czas odmawiano wstępu do służby państwowej.

Ruch emancypacyjny Żydów, który w Niemczech zakończył się po prawie stu latach wraz z utworzeniem Cesarstwa Niemieckiego w 1871 roku, towarzyszył głębokim zmianom w życiu żydowskim, które pozostawiły wyraźne ślady również w Moguncji. Chrześcijanie początkowo nie byli gotowi tolerować żydowskich sąsiadów, więc dzielnica żydowska pozostała preferowaną dzielnicą mieszkaniową. Dopiero stopniowo Żydzi osiedlali się w najbliższej okolicy przy Flachsmarkt i w dzielnicy Bleichenviertel. Po otwarciu getta niektórzy Żydzi zaczęli interesować się nowymi ideami oświecenia i pod ich wpływem krytycznie podchodzili do tradycyjnego rozumienia judaizmu.

Aby sprostać wymaganiom nowego społeczeństwa obywatelskiego, żydowski pedagog i późniejszy nauczyciel w słynnej frankfurckiej szkole Philanthropin, Michael Creizenach, założył w 1814 roku w Moguncji szkołę, której celem było przekazywanie żydowskim uczniom dotychczas zaniedbanej wiedzy ogólnej i języków obcych.

Isaak Jakob Bernays z Moguncji, od 1821 roku rabin w Hamburgu, znany jest ze swoich wysiłków na rzecz reform religijnych. Niektóre z planowanych zmian były jednak zbyt daleko idące dla części społeczności żydowskiej w Moguncji, która pozostawała wierna tradycyjnemu judaizmowi, co doprowadziło w 1849 roku do rozłamu. Liberalna „Izraelska Gmina Religijna” poświęciła w 1853 roku swoją synagogę przy ulicy Vordere Synagogenstraße, a w 1912 roku powstała nowa, okazała synagoga główna przy ulicy Hindenburgstraße.

W 1856 roku ortodoksyjna „Izraelska Wspólnota Religijna” zbudowała własną synagogę na rogu ulic Flachsmarktstraße i Margaretengasse, która w 1879 roku została zastąpiona większym budynkiem w stylu mauretańskim, zaprojektowanym przez miejskiego architekta Eduarda Kreyßiga. Nominalnie pozostała to żydowska gmina w Moguncji. Jednak obie grupy prowadziły własne życie gminne, dysponując własnymi obiektami.

Kiedy w 1933 roku naziści przejęli władzę w Niemczech, w Moguncji istniała prężna społeczność żydowska licząca około 2600 członków. Szybko doszło do pozbawienia ich praw. Po zwolnieniach z służby publicznej i bojkocie żydowskich sklepów, w 1935 roku wprowadzono norymberskie ustawy rasowe, które pozbawiły Żydów niemieckiego obywatelstwa. Żydowscy uczniowie musieli opuścić szkoły, odmówiono im studiów i kształcenia. Właściciele żydowscy byli coraz bardziej naciskani, aby przekazać swoje sklepy, przedsiębiorstwa i domy – zazwyczaj znacznie poniżej wartości – „aryjczykom”. Wiele osób zostało zmuszonych do emigracji.

W nocy pogromu z 9 na 10 listopada 1938 r. synagogi przy ulicach Hindenburgstraße i Flachsmarktstraße zostały splądrowane i podpalone. Następnego ranka doszło do licznych ataków na sklepy i mieszkania Żydów oraz do maltretowania ludzi. Dziesiątki żydowskich mężczyzn zostało aresztowanych i wysłanych do obozów koncentracyjnych. Po rozpoczęciu wojny publiczne pojawianie się Żydów, którzy od 1941 r. musieli nosić żółtą „gwiazdę Dawida”, stawało się coraz bardziej niebezpieczne. Coraz częściej odbierano im również możliwość swobodnego poruszania się. Musieli mieszkać stłoczeni w tak zwanych „mieszkaniach żydowskich”. Musieli oddawać swoje radia, maszyny do pisania, samochody, biżuterię, wszystkie srebrne przedmioty i futra, nie mogli posiadać telefonów ani zwierząt domowych, nie mogli korzystać z transportu publicznego, nie mogli chodzić na baseny, nie mogli siedzieć na ławkach w parkach i mogli leczyć się tylko u żydowskich lekarzy. Otrzymywali mniejszą rację żywnościową niż reszta ludności i mogli robić zakupy tylko w określonych godzinach, by wymienić tylko kilka przykładów szykan i ograniczeń.

Po represjach i upokorzeniach nastąpiła ostatecznie eksterminacja. W marcu i wrześniu 1942 r. w trzech dużych transportach ponad 1000 żydowskich mężczyzn, kobiet i dzieci, w tym wiele osób w podeszłym wieku, zostało deportowanych do Polski i do getta w Theresienstadt. 10 lutego 1943 r. ostatni transport wyruszył z Moguncji do obozów koncentracyjnych. W momencie wyzwolenia przez wojska amerykańskie w 1945 r. w Moguncji pozostało tylko kilku Żydów żyjących w tzw. małżeństwach mieszanych. Szacuje się, że zamordowano około 1300–1400 Żydów z Moguncji, niewinnych ofiar nazistowskiej obsesji rasowej.

Po wojnie tylko nieliczni emigranci powrócili do swojego rodzinnego miasta Moguncji. Zbyt bolesne były wspomnienia poniżeń i prześladowań, jakich doświadczyli, oraz zbrodni, których byli świadkami. 24 ocalałych z obozu koncentracyjnego Theresienstadt przewieziono autobusem z powrotem do Moguncji. Wśród nich był Max Waldmann, pierwszy przewodniczący nowo utworzonej 17 października 1945 r. gminy żydowskiej. Tylko niewielu nowych członków gminy pochodziło z Moguncji lub regionu Rheinhessen. Nowy początek w czasach trudności gospodarczych i świadomości okropności przeszłości był trudny.

Z biegiem lat ponownie nawiązano dialog z emigrantami wyznania mojżeszowego pochodzącymi z Moguncji, którzy rozproszyli się po całym świecie. Niektórzy z nich przyjeżdżali do Moguncji z prywatnymi wizytami, aby odwiedzić groby swoich bliskich, odnowić stare przyjaźnie lub pokazać swoim dzieciom i wnukom swoje dawne miasto rodzinne. Po zatwierdzeniu środków finansowych przez radę miasta w latach 1991, 1992, 1993, 1995, 1998 i 2001 odbyły się tygodnie spotkań, podczas których kilkuset emigrantów żydowskiego pochodzenia z Moguncji zostało zaproszonych na tydzień do swojego rodzinnego miasta.

Jednak nie wszystkim udało się ponownie przyjechać do Moguncji. Niektórzy zmarli w międzyczasie lub ze względu na swój wiek i stan zdrowia nie byli w stanie odbyć tak dalekiej podróży. Inni z kolei odmówili ponownej wizyty w swojej dawnej ojczyźnie ze względu na bolesne doświadczenia. Ogólnie pozytywny odbiór tygodni spotkań pokazuje, że przyczyniły się one w znacznym stopniu do pojednania, które należy kontynuować, mając jednocześnie świadomość, że zadośćuczynienie nie jest możliwe. Obecnie miasto Moguncja utrzymuje kontakt z wieloma emigrantami z Moguncji i ich potomkami na całym świecie.