Cambió su nombre por Andréi y tomó el apellido de su abuelo materno, Piotr Konchalovski, como pseudónimo.

Su debut como director, El primer maestro, fue recibida favorablemente en la Unión Soviética y participó en varios festivales internacionales de cine.

Su segunda película, Istoriya Asi Klyáchkinoy, kotóraya lyubila, da ne vyshla zámuzh fue censurada por las autoridades soviéticas.

Durante los años 1990, Konchalovski regresó a Rusia, aunque ocasionalmente produjo filmes históricos para la televisión estadounidense, entre los que se encuentra la miniserie The Odyssey y el telefilme The Lion in Winter.

Su primera esposa fue la actriz kazaka Natalia Arinbasárova, con quien tuvo dos hijos: Yegor y Stepán.