Asistió a la escuela secundaria en Chemnitz, donde se hizo amigo de Erich Heckel.

[1]​ Mientras estaba allí, Erich Heckel le presentó a Ernst Ludwig Kirchner y Fritz Bleyl.

Todos compartían apasionadamente intereses artísticos similares y utilizaban la arquitectura como fachada para estudiar arte.

En 1906 pasó el verano en la isla de Alsen con Emil Nolde y su esposa, donde lo convenció para unirse a Die Brücke.

[1]​ El grupo se disolvió en 1913, en gran parte debido a un cambio sistémico en la dirección artística de cada miembro individual.

Schmidt-Rottluff comenzó a adoptar colores más tenues y puso mayor énfasis en sus cuadros en el dibujo, que presentaba en líneas oscuras y contrastantes entre formas en lugar de yuxtaponer colores, como anteriormente había sido la norma.

Alrededor de 1909 contribuyó decisivamente a revivir la xilografía como un medio apreciado y utilizable.

Schmidt-Rottluff sirvió como soldado en la Primera Guerra Mundial, en el Frente Oriental desde 1915 hasta 1918, pero estas experiencias nunca se reflejaron en gran medida en sus obras.

Sólo unas pocas de estas acuarelas, que fueron regaladas a amigos, han sobrevivido; el resto fueron destruidas en 1945.

[10]​ Fue un prolífico ilustrador, con 300 grabados en madera, 105 litografías, 70 aguafuertes, y 78 láminas comerciales descritas en el catálogo razonado de Rosa Schapire.