Rosi estudió derecho, a pesar de estar interesado en estudiar cine.

Entró a la industria cinematográfico como asistente de Luchino Visconti en La tierra tiembla en 1948.

Durante los años 1960, Rosi dirigió filmes que se centraban en temas controvertidos.

En 1967 dirigió un filme con producción de Carlo Ponti: C'era una volta, con Sofía Loren, Omar Sharif y Dolores del Río.

Entre 1972 y 1976, Rosi dirigió tres filmes que son considerados sus obras más importantes.