Schmundt ingresó el 1 de abril de 1908 en la Marina Imperial y comenzó su formación militar en el crucero-corbeta SMS Charlotte.
A bordo del crucero protegido SMS Scharnhorst le llegó el ascenso al empleo intermedio de Leutnant zur See y a su regreso a Alemania el 21 de septiembre de 1912 le destinaron como oficial de compañía a la 1.ª División de Marinería y al año siguiente fue trasladado a la 5.ª Semiflotilla de Torpederos.
Schmundt fue destinado como comandante del torpedero S 18 y ayudante del jefe de la 1.ª Flotilla de Torpederos en Swinemünde.
Terminada la operación, fue nombrado Comandante de Cruceros y en ese cargo ascendió a vicealmirante el 1 de septiembre de 1940.
Durante un año desde el 15 de octubre de 1941 ejerció Schmundt el cargo de Almirante del Mar del Norte, recibiendo el ascenso a almirante el 1 de abril de 1942 y el 31 de agosto siguiente el destino como jefe del Departamento de Armamento Naval dentro del Mando Supremo de la Armada (OKM).