Der zweigeschossige Bau unter dem Ross diente als kurfürstlicher Marstall. Zusammen mit dem Wohnhaus an der Schießgartenstraße und einem Hofflügel wurde er 1766/67 nach Plänen des Baudirektors Jakob Josef Schneider errichtet. Bereits vor 1750 wurde das Wohnhaus an der Bauhofstraße 1 erbaut. Das Haus des Oberstallmeisters diente als kürfürstliche Kameralverwaltung.
Nach dem Bau des Marstalls waren in diesem Wohnhaus einflussreiche Persönlichkeiten des 18. und 19. Jahrhunderts untergebracht, so die Gesellschafterin des Kurfürsten von Erthal, Sophie von Coudenhoven (1747-1825), und der französische Außenminister Talleyrand. Er wohnte hier während des Aufenthalts Napoleons in Mainz im Jahre 1806.
Bis 1770 entstand an der Mittleren Bleiche eine Reithalle. Ganz im Sinne absolutistischen Prestigedenkens lies Kurfürst Emmerich Joseph Breidbach-Bürresheim die etwa 15 mal 19 Meter große Halle mit zwei prächtigen Emporen ausstatten. Doch schon 1793 bis 1797 und nochmals zwischen 1805 und 1833 diente sie als Theater. Zwischen 1815 und 1930 war der Komplex Quartier verschiedener Kavalerieregimenter.
Wechsel der Nutzung: von der Kaserne zum Haus der Kunst
1937 wurde eine für die „Golden-Ross-Kaserne" wegweisende Entscheidung getroffen, die sie endgültig von einer Kaserne in ein Haus der Kunst umwandelte: Man brachte im Marstall das städtische Altertumsmuseum unter. Mitte des 19. Jahrhunderts hatte bereits die Städtische Gemälde-Galerie unweit, im Rheinflügel des Kurfürstlichen Schlosses, ihre vorläufige Heimat gefunden. Beide Sammlungen sollten später - freilich aus der Not geboren - ganz zusammenkommen.
Zweiter Weltkrieg und Wiederaufbau
Die Folgen des Zweiten Weltkrieges zwangen dazu, einen neuen Platz für die weitgehend ausgelagerten Bestände beider Museen zu suchen. Die französische Militärregierung unterstützte ab 1950 den Wiederaufbau des im Innenhof der Kaserne gelegenen Trakts als Magazin für beide Museen. Als dann die Gebäudefront an der Großen Bleiche wieder aufgebaut war, konnte 1962 der neu eingerichtete Museumskomplex Golden-Ross-Kaserne der Öffentlichkeit vorgestellt werden.
1967 kamen Altertumsmuseum und Gemäldegalerie der Stadt als Mittelrheinisches Landesmuseum in die Trägerschaft des Landes Rheinland-Pfalz. Nachdem auch der Trakt an der Schießgartenstraße wiederhergestellt und zusätzlich ein Ausstellungspavillon im Innenhof errichtet worden war, wurde das Haus 1979 neu eröffnet.
1986 benannte man das Museum aus Anerkennung seiner überregionalen Bedeutung in „Landesmuseum Mainz" um. Im Jahre 2003 feiert es seinen 200-jährigen Geburtstag.