Su primera revista representada profesionalmente, y escrita con Karl-Ewert Christenson, se llevó a escena en 1919 en el Folkteatern.Entre sus cuplés más famosos de la época figuran Nu ska vi vara snälla y Han är ett bedårande barn av sin tid.Para Zarah Leander escribió la canción I skuggan av en stövel (1934), la cual era una protesta contra la persecución judía en Europa.Karl Gerhard se posicionó políticamente como azote del nazismo y en contra de la no beligerancia sueca.En colaboración con Povel Ramel, Gerhard participó en 1957-1960 en giras veraniegas con revistas de la serie Knäppupp, producidas por el primero.Su última actuación tuvo lugar en Mitt bedårande jag (Photo Finish), obra de Peter Ustinov.En el año 1930 se casó con Brita Werner, acabando la unión en 1936 con un divorcio, al igual que los anteriores matrimonios.Más adelante mantuvo una relación secreta con su secretario, Göthe Ericsson, y en 1949 adoptó una niña, Fatima Svendsen.
