Kennin-ji fue fundado en 1202 y está considerado el más antiguo templo zen de Kioto.

El monje Eisai, que introdujo el Zen en Japón, fue abad fundador de Kennin-ji y está enterrado en los terrenos del templo.

Durante sus primeros años, el templo combinó las prácticas de Zen, Tendai y Shingon, pero se convirtió en una institución puramente Zen bajo el undécimo abad,Lanxi Daolong (蘭渓道隆, Rankei Dōryū?)

El maestro zen Dōgen, más tarde fundador de la secta japonesa Sōtō, se formó en Kennin-ji.

En 2002, Koizumi Junsaku (1924–2012) realzó la configuración arquitectónica con una pintura dramática del techo mediante dos dragones.