Ballardini comenzó su trayectoria como técnico en 1988, entrenando en las categorías inferiores (Primavera) del Bologna.

Posteriormente, también trabajó en la cantera de otros equipos: Cesena, Ravenna, Milan y Parma.

[1]​ Posteriormente, tuvo dos breves experiencias en los banquillos de Cagliari[2]​[3]​ y Pescara.

[12]​ En noviembre de 2011, firmó por tercera vez con el Cagliari,[13]​ pero solo permaneció 4 meses en la entidad.

[30]​Luego de que el club descendiera a la Serie B, su contrato no fue renovado y fue reemplazado en el cargo por Fabio Grosso.