En 1953 Schwarzkopf se mudó a Wiesbaden, actuando más adelante en Hannover y Múnich.

Se convirtió en un favorito del público, y fue nombrado "Bayerischen Staatsschauspieler" (actor estatal de Baviera).

Entre 1971 y 1978 Schwarzkopf hizo su papel más popular en la serie criminal Tatort, dando vida al gruñón Comisario Finke.

Actuó en la serie Wer den Schaden hat … (1981), en Alte Gauner (1985), en Die Stunde des Léon Bisquet (1986) y en la sátira Das blaue Bidet (1982).

Schwarzkopf protagonizó largometrajes como Herrliche Zeiten im Spessart (1967), Und Jimmy ging zum Regenbogen (1971), Der Stoff aus dem die Träume sind (1972) y Alle Menschen werden Brüder (1973).

Su última actuación para la gran pantalla llegó en 1985 en el film de Bernhard Wicki Die Grünstein-Variante.

En 1991 debía actuar junto a Mario Adorf, Will Quadflieg y Hans Korte en la miniserie en cuatro capítulos de Dieter Wedel Der große Bellheim.

Gracias a su suave voz, Klaus Schwarzkopf fue muy solicitado como actor de doblaje.