Koldewey se incorporó como marinero en 1853, inmediatamente después de acabar la escuela primaria en Clausthal.
Más tarde se hizo de nuevo al mar, pero regresó a la escuela naval en 1861.
Tenía como opciones avanzar hacia el norte tanto como fuera posible siguiendo la costa este de Groenlandia o llegar a los llamados Gillis-Land viajando por Spitsbergen.
Finalmente llegó a su latitud más al norte, los 81°5'N cerca de Spitsbergen y regresó.
Sin embargo, el logro más destacado de la expedición fue el descubrimiento y la investigación del fiordo Kaiser Franz Joseph.
Después de terminar las expediciones Koldewey trabajó como escritor y tomó parte en las publicaciones científicas.