Alfred Cortot descubrió su talento musical e hizo que se trasladase a París en 1926 para que se preparara como compositor y pianista.
Béla Bartók describió una vez a Markévich como "...la más impactante personalidad en la música contemporánea..." y le citó como una influencia en sus propias composiciones.
Hizo su debut como director a los 18 años al frente de la Orquesta Real del Concertgebouw.
Durante la Segunda Guerra Mundial fue un activista del movimiento de resistencia italiano.
En 1965 comenzó a trabajar como director en la Orquesta Sinfónica de RadioTelevisión Española.