Después de haber servido como soldado en el Regio Esercito italiano durante la Primera Guerra Mundial, donde conoció a otro futuro líder fascista, Italo Balbo.

[3]​ Después de ello fue designado embajador italiano en Gran Bretaña, puesto que ejerció entre 1932 y 1939.

En 1941 fue «movilizado» en las fuerzas armadas y enviado al frente bélico de Grecia brevemente.

Conforme las campañas militares de 1942 terminaban en severas derrotas para las tropas italianas en el Norte de África, en Rusia y en el Mediterráneo, Grandi empezó a intrigar con el rey Víctor Manuel III para apartar a Mussolini del poder y hacer la paz inmediatamente con los Aliados, al convencerse a inicios de 1943 que el Tercer Reich nunca podrá alcanzar la victoria final.

Tras triunfar la moción de Grandi, el rey Víctor Manuel dispuso arrestar a Mussolini al día siguiente, pero el nuevo régimen de Pietro Badoglio no se mostró amistoso hacia Grandi, a quien aún se consideró un fascista peligroso e intrigante.