Tras debutar en Rudolstadt (1924), tuvo compromisos teatrales en Erfurt, Heidelberg y Leipzig (con el director Douglas Sirk), donde fue Mefistófeles, llegando en 1934 al Volksbühne de Berlín.

Alternando con Heinrich George, fue Franz Moor en el drama de Friedrich Schiller Los bandidos.

Una de sus películas destacadas fue el drama bélico submarino de Herbert Selpin Geheimakte WB 1 (1941/42), antes del cual había trabajado también en 90 Minuten Aufenthalt (1936), Dreizehn Mann und eine Kanone (1938) y Gold in New Frisco (1939).

Poco antes de que los bombardeos destruyeran el edificio, Golling retiró y puso a salvo su interior rococó.

En ese teatro Golling actuó como Peer Gynt, Macbeth, y como el Papa Gregorio VII.