Nació en Köpenick y originalmente era un oficial de caballería.
Como tal era el oficial de operaciones y vicejefe del Estado Mayor.
Entre 1836 y 1839, Podbielski se diploma en la Academia Militar Prusiana.
Durante la guerra austro-prusiana, Podbielski fue intendente general del ejército y recibió el 18 de septiembre de 1866 la Orden Pour le Mérite.
Tras la conclusión de la paz, retorna al departamento de guerra, se convierte en teniente general en 1867 y presta un gran servicio en la reorganización del ejército en el seno de la Confederación Alemana del Norte.
Durante la guerra franco-prusiana, Podbielski es de nuevo nombrado intendente general del ejército.