Posteriormente al éxito mundial de la película "Das Boot", Grönemeyer pasó seis meses en la RDA por la producción alemana "Robert Schumann"(coprotagonizada por Nastassja Kinski y Rolf Hoppe), para la que también compuso la música.

Grönemeyer finalmente llegó al éxito como músico en 1984 con el lanzamiento del álbum "Bochum" (nombre de la ciudad en la cual vivió), que se convirtió en el álbum más vendido en Alemania en este mismo año, en particular por los sencillos "Männer" ("Hombres") y "Flugzeuge im Bauch" ("Aviones en el estómago").

Un año más tarde, Grönemeyer apareció en la película de televisión alemana Vater und Söhne (Padres e hijos), coprotagonizada por Julie Christie, Burt Lancaster y Bruno Ganz.

Con sus próximo álbumes "Sprünge" (1986) y "Ö" (1988), Grönemeyer cada vez más expresó su opinión política, criticando al gobierno bajo el canciller alemán Helmut Kohl.

Después del lanzamiento de su primer álbum en idioma Inglés "What's all this" Grönemeyer ofreció una pequeña pero exitosa gira por Canadá.

En 2000 grabó un concierto con una orquesta filarmónica y sacó el DVD "Stand der Dinge" ("Estado de los hechos").

En octubre de 2012 un álbum en inglés llamado I Walk ("Yo camino") fue lanzado en el Reino Unido y los países del Benelux.

Esta producción fue una colaboración con artistas internacionales como Anthony Hegarty, el cantante galés y el guitarrista de los Manic Street Preachers, James Dean Bradfield.

En la página oficial de Herbert Grönemeyer hubo una votación para seleccionar las canciones que querían escuchar sus aficionados en esta gira exclusiva.