El desarrollo del PaK 40 comenzó en 1939 con el encargo del proyecto a las empresas Krupp y Rheinmetall de desarrollar un cañón antitanque de 75 mm.

La prioridad asignada al proyecto era inicialmente baja, pero con el inicio de la Operación Barbarroja en 1941 y la aparición de tanques soviéticos fuertemente blindados, como el tanque pesado KV-1, aumentaron la prioridad del proyecto.

Se hizo una versión para equipar tanques y cazacarros llamado KwK 40, que fue ampliamente utilizado con buenos resultados.

El PaK 38 era muy versátil y podía moverse entre los infantes, pero el cañón de 75 mm, con su apoyo, tenía un peso elevado y para desplazarlo o incluso girarlo hacía falta un tractor de artillería.

Usualmente el desperfecto o daño del vehículo tractor implicaba la pérdida de la pieza.