Colaboró con Karel Hynek Mácha o František Palacký (escritores checos famosos).

Su obra más famosa se llama Kytice z pověstí národních (Un ramo de leyendas populares), que fue publicada en el año 1853.

Su padre, Jan Erben, trabajaba de zapatero y fruticultor.

Empezó sus estudios en la escuela primaria de Miletín, donde trabajaba también su tío y su abuelo.

Allí se preparó para sus estudios posteriores y desarrolló sus talentos, incluido el musical.

Después de la muerte de su primera esposa, Karel Jaromír Erben se casó nuevamente en el año 1859 con Žofie Mastná (1836-1905) y con ella tuvo 2 hijos más, Vladimír (1859-1860) y Marie (1862-1864).

Con otros escritores escribió en muchas revistas, por ejemplo Obzor o Právník.