Entre 1950 y 1971 llegó a ser el principal dirigente del Partido Socialista Unificado de Alemania (Sozialistische Einheitspartei Deutschlands o SED).

Durante el conflicto se adhirió al ala izquierda socialdemócrata, que se escindió en el Partido Socialdemócrata Independiente de Alemania (USPD), por su oposición a participar en la contienda, y más tarde, en 1918,[4]​ a la Liga Espartaquista.

En 1923 ingresó en el Comité Central del KPD[2]​ y comenzó una intensa actividad en el partido.

Llegó a ser elegido diputado al Reichstag en 1928 y ocupó su escaño hasta 1933.

[8]​ Durante la Segunda Guerra Mundial, trabajó en el llamado Comité Nacional por una Alemania Libre.

[12]​ En 1950 accedió a la secretaría general del SED y durante el III Congreso del partido, celebrado ese mismo año, Ulbricht anunció la puesta en marcha de un plan quinquenal con el objetivo de duplicar la producción industrial.

Ulbricht se mantuvo fiel a los principios del marxismo-leninismo, convirtiéndole en una persona de un inflexible carácter.

Ulbricht también situó a otros 40 000 soldados del Ejército Popular Nacional por todo el país para asegurarse de que ninguna protesta prosperase.

[19]​ Ulbricht se mostró escéptico a las reformas del Gobierno checoslovaco durante la Primavera de Praga (1968) al igual que otros líderes comunistas del Bloque oriental, lo que acabaría conduciendo a la Invasión de Checoslovaquia por las fuerzas del Pacto de Varsovia (que Ulbricht también apoyó).