En 1944 se convirtió en un miembro del gabinete como Ministro sin cartera, cargo que desempeñó hasta el año siguiente, cuando se convirtió en ministro de Educación.

En 1946, tras la muerte repentina del primer ministro Per Albin Hansson, inesperadamente Erlander fue elegido como el sucesor y también fue elegido como el líder del partido.

Formó una coalición con el Partido del Centro entre 1951 y 1957 y la relación con el líder de su partido, Gunnar Hedlund es conocido por haber sido bastante buena pese a que Erlander casi siempre mantenía una minoría parlamentaria.

Los beneficios obtenidos por los votantes motivaron que, pese a no siempre tener mayoría en el Parlamento Sueco, Erlander mantuviera el cargo de primer ministro de modo casi ininterrumpido por 23 años continuos.

Esta política no solo generó crecimiento económico gracias a la industria armamentística sino que además aseguró la neutralidad como base de las relaciones exteriores de Suecia: bajo Erlander el país rechazó unirse a la OTAN pese a que sus vecinos Noruega y Dinamarca ya lo habían hecho, y también rehusó ofertas del gobierno soviético para suscribir pactos de asistencia bélica (como los suscritos entre Finlandia y la URSS).