En 1903 decidió realizar la carrera militar e ingresó en el Ejército Real (Regio Esercito).Participó en la Primera Guerra Mundial, donde ascendió rápidamente y se convirtió en el colonnello más joven del Ejército Real.Si la campaña en Tripolitania había resultado relativamente rápida y sencilla,[5] las operaciones en Cirenaica se encontraron con una gran resistencia de la población local.También se recurrió al bombardeo aéreo de las poblaciones libias con gases químicos.Sin embargo, Omar Al-Mukhtar fue finalmente vencido, capturado y ejecutado en septiembre de 1931.Si bien la superioridad militar italiana tanto en medios como en hombres había sido abrumadora, también cierto es que la ofensiva de Graziani a través del desierto no tenía antecedentes, ya que hasta entonces ningún europeo se había adentrado tan profundamente en el interior de Libia.Durante la ofensiva italiana no se escatimó la utilización de gases químicos contra las tropas etíopes, lo que causó una elevada mortandad.A su llegada a la colonia, Graziani quedó horrorizado con la situación que se encontró: el 10.º Ejército italiano, que tenía la misión de invadir Egipto, disponía de una gran superioridad numérica frente a los británicos, pero no estaba bien equipado y tampoco estaba lo suficientemente mecanizado como para emprender una guerra por el desierto.[16] Su antecesor en el cargo, Balbo, ya había mostrado sus dudas de poder invadir Egipto, y Graziani retrasó la invasión durante varios meses ya que argumentaba que sus fuerzas no estaban bien equipadas.Graziani rechazó seguir internándose en Egipto, prefiriendo establecer una línea defensiva y esperar la llegada de refuerzos.Poco después también fue destituido como jefe del Estado Mayor y sustituido por el general Mario Roatta.Después de que los alemanes liberaran a Mussolini —que había sido encarcelado—, le siguió a Saló cuando este fundó la República Social Italiana, un estado títere establecido por los nazis en el norte de Italia, mientras el sur del país había sido ocupado por los anglo-americanos.Graziani no tardó mucho tiempo en entrar en conflicto con Alessandro Pavolini, el secretario del Partido Fascista Republicano, a cuenta de la militarización de las milicias fascistas y la Guardia Nazionale Repubblicana (GNR).El gobierno etíope intentó sin éxito que la ONU juzgara a Graziani por las matanzas perpetradas cuando era virrey de Etiopía y tampoco el Gobierno italiano tomó medidas en este sentido.
