En las primeras fases de la Operación Barbarroja, la Wehrmacht sintió la necesidad de una solución anticarro más móvil y poderosa que la artillería remolcada existente o los cazacarros como el Panzerjäger I.

Como una solución provisional, se decidió utilizar tanto los tanques obsoletos como el Panzer II D/E, especialmente el Flammpanzer-II, poco operativo por su escaso blindaje lateral, como base para cazacarros improvisados.

El resultado fue la serie Marder, que estaban armadas con un cañón PaK 40 de 75 mm o un cañón ruso F-22 Modelo 1936 de 76,2 mm, que habían sido capturados en grandes cantidades.

Los Marder II con armas alemanas recibieron la designación de Sd.

Las diferencias entre las dos variantes se localizaban en el supresor de fogonazo del cañón y las distintas superestructuras que portaban el arma principal.