Fue el hijo de Kim Bo-hyon (金輔鉉, 1871-1955),[3]​[4]​ y de Lee Bo-ik (이보익; 1876-1959), asistió a la escuela Sungshil, la que fue dirigida por misioneros estadounidenses, se convirtió en docente y luego en farmacéutico.

Kim y su esposa, Kang Pan-sok, asistieron a iglesias cristianas y él se convirtió en misionero presbiteriano de tiempo parcial.

[5]​ Fue reportado que su hijo, Kim Il-sung asistió a iglesias durante su adolescencia antes de convertirse en ateo.

Kim y su familia fueron activos en la Ocupación japonesa de Corea, en 1920, cuando Kim Il-sung tenía ocho años de edad se dirigieron a Manchuria por seguridad.

La biografía oficial establece que su abuelo fue el «líder del movimiento antijaponés de liberación nacional», y que fue un pionero cambiando la dirección del movimiento nacionalista al movimiento comunista en Corea.