Su padre Elyashiv Levitán fue un humilde profesor de idiomas y traductor que, sin embargo, se mudó en 1870 a Moscú para permitirle a su hijo que estudiara en la Academia.
Egresó a los 19 años y pintó su primer cuadro: Paisaje en Otoño (1880) que fue comprado por el célebre coleccionista Pável Mijáilovich Tretiakov, con quien luego Isaak entablara una amistad.
En su viaje conoció las obras del magnífico paisajista realista Jean-Baptiste Camille Corot, antecesor del impresionismo y maestro de otro artista como Camille Jacob Pissarro, famoso impresionista francés.
Cuando joven, Levitán recibió una notable influencia de Corot, la cual supo trasladar con profundo sentimiento telúrico al paisaje y la idiosincrasia rusos.
El planeta menor 3566 Levitán, descubierto por la astrónoma Sovética Lyudmila Zhuravlyova en 1979 fue nombrado en su honor.