Criado en la cantera del Torino, con cuyo equipo primavera ganó una Copa Italia y un Torneo de Viareggio, Rossi debutó en la Serie A en la temporada 1983-84.

En 1993, fue transferido a la Sampdoria por 2.500 millones de liras, donde permaneció dos temporadas en la máxima categoría.

[5]​Previo a su retiro, jugó tres temporadas en el fútbol amateur, una con Ospitaletto y dos con el Salò (en Eccellenza Lombarda).

[10]​Con los húngaros logró el tercer puesto en la temporada 2012-13 y el acceso a las eliminatorias de la UEFA Europa League, en la que quedó eliminado en segunda ronda.

[11]​En la temporada 2016-17, obtuvo la Nemzeti Bajnokság I después de vencer al Ferencváros por 1-0 en la última jornada, cortó con una sequía de 20 años sin títulos para el club y se convirtió en el primer entrenador italiano en ganar un trofeo en Hungría.

[12]​En junio de 2017, decidió dejar su cargo por diferencias económicas con la directiva húngara.