Su primer club fue el Andrea Doria de Génova, su ciudad natal.
Durante la Segunda Guerra Mundial pasó al Spezia, ganando el Campionato Alta Italia 1944 (torneo disputado en la República Social Italiana).
En 1945 volvió al Andrea Doria, que el año siguiente se unió a la Sampierdarenese, dando vida a la Sampdoria; Gramaglia fue el primer capitán del nuevo equipo genovés.
[1] Terminó su carrera con 6 temporadas en el Napoli, ganando un el campeonato de la Serie B 1949/50.
Con un total de 275 partidos, es el noveno jugador con más presencias en el Napoli, después de Marek Hamšík, Giuseppe Bruscolotti, Antonio Juliano, Moreno Ferrario, Ciro Ferrara, Christian Maggio, Lorenzo Insigne y Paolo Cannavaro.