Desde 1977 Schulz trabajó en varios comercios del gremio librero y como vendedor para editoriales.

[1]​ Desde los 19 años, en 1974 militó primero en las Juventudes del Partido Socialdemócrata (SPD), formación a la que pertenecía su padre.

En 1984 salió elegido concejal en el Ayuntamiento de Würselen y tres años después, en 1987 se convirtió en el alcalde de la localidad, cargo que asumió hasta 1998, haciéndolo compatible desde 1994 con su escaño en el Parlamento Europeo.

Inicialmente su candidatura logró que el SPD recobrara apoyo popular,[6]​ pero pronto el partido comenzó a bajar en las encuestas.

Tiempo después, Schulz renunció al liderazgo del partido para permitir que este entrase en una gran coalición con Merkel (lo cual entraba en conflicto con sus promesas electorales de no hacer tal cosa)[7]​ y fue sucedido por Olaf Scholz.