Fue entrenador asistente del Borussia Mönchengladbach desde 1965 hasta 1967, cuando pasó a dirigir al Rot-Weiss Essen.

Cuando Derwall renunció en 1984, Ribbeck estaba dispuesto a reemplazarlo en el cargo, pero finalmente lo hizo Franz Beckenbauer, ya que era el preferido en ese momento.

Dejó el club tras el éxito internacional y se convirtió en director deportivo del Hamburgo SV hasta 1991.

Su debut no fue el mejor, pues cayó ante Turquía por 1-0 como visitante, en el primer partido de la clasificación para la Eurocopa 2000.

El seleccionado vencía a rivales débiles pero no podía contra equipos de primer nivel.