Su padre fue un industrial adinerado que quedó arruinado tras el asedio francés, por lo que con dieciséis años tuvo que aprender el oficio de boticario en su ciudad natal, y con veintidós comenzó a ganarse la vida como ayudante de un boticario de Itzehoe.

Su ambición y su gran inclinación hacia una carrera científica le llevaron a abandonar su negocio y mudarse a Berlín, donde en 1820 ingresó en la universidad.

Durante su dirección fue comúnmente llamada Poggendorff's Annalen, y fue la publicación científica más importante de Europa.

Fue un concienzudo y habilidoso experimentador, con una gran capacidad inventiva para la elaboración de aparatos experimentales.

Rechazó todas las ofertas de profesor que recibió, dedicándose completamente a su labor al frente de Annalen y a sus investigaciones científicas.