Nacido en Eberswalde, Alemania, su padre era Gustav Gross y su madre Antonie.

Finalizada la Segunda Guerra Mundial trabajó en el programa radiofónico de cabaret Die Insulaner, haciéndose muy popular como el funcionario Jenosse.

Para la pequeña pantalla trabajó en varias series, entre ellas Drüben bei Lehmanns, en la cual fue el protagonista, y en la que también actuaba Brigitte Mira, con la cual coincidiría más adelante en otra serie, Drei Damen vom Grill.

Walter Gross sufrió un accidente cerebrovascular en 1988, y falleció en 1989 en Berlín a causa de una insuficiencia cardiaca.

Gross fue también actor de voz, doblando a diferentes intérpretes, entre ellos Bernard Miles, Cliff Emmich, Gene Kelly, George Lindsey, George Little, Mel Blanc, Red Skelton, Sterling Holloway y Truman Smith.