En 1938, cuando la Alemania nazi se anexionó Austria (el llamado Anschluss), la 3.ª División Panzer fue una de las unidades que tomaron parte en el avance militar de las tropas del Heer sobre territorio austriaco.

Durante la campaña, la División penetró en Bélgica hasta el sur de Bruselas, para luego seguir camino hacia la frontera francesa, contribuyendo al cerco de la Fuerza Expedicionaria Británica en Dunkerque.

Con la llegada del buen tiempo, en marzo de 1942, la 3.ª División Panzer quedó incorporada al VI Ejército alemán, en el sector sur del frente, participando en la defensa de Járkov contra un ataque soviético.

En enero de 1943, con la nueva contraofensiva rusa que se inició en el sector sur del Frente Oriental mediante el ataque a las tropas del VI Ejército alemán en Stalingrado, que logró romper el frente y formar una bolsa con la mayor parte del VI Ejército (batalla de Stalingrado), la División, con sus posiciones sumamente expuestas, se vio obligada a retroceder, atravesando para ello el congelado mar de Azov.

Posteriormente, la 3.ª División Panzer fue enviada a Ucrania, para, ya a finales de 1944, combatir en Polonia, encuadrada en el XXIII Cuerpo de Ejército, del II Ejército.