Se hizo conocido en Alemania por sus trabajos con el director Wolfgang Petersen, Einer von uns beiden (1974), donde encarnó al estudiante Bernd Ziegenhals, o La consecuencia (Die Konsequenz, 1977).
Entre sus películas de mayor éxito, se pueden citar Beverly Hills Cop II (protagonizada por Eddie Murphy), la oscarizada El paciente inglés, Air Force One (con Harrison Ford) y El código Da Vinci, protagonizado por Tom Hanks.
En 2008 participó en una producción española, La conjura de El Escorial, con Julia Ormond y Jordi Mollá, entre otros.
Curiosamente, Prochnow había sido uno de los actores considerados para el papel principal en The Terminator, que finalmente recayó en Schwarzenegger.
Prochnow se casó en 1970 y tuvo una hija, Johanna, que murió en 1987.