Después de muchos combates en los que peleó ante los mejores pesos medios del mundo, tuvo su oportunidad por el título del mundo, ante Tony Zale, ante el que perdió por nocaut en seis asaltos, siendo el combate la "Pelea del año 1946".

Pero después de otros dos combates que ganó, volvió a pelear ante Zale, al que ganó en esta ocasión por el mismo resultado, lo que le proclamó el nuevo Campeón del Mundo, además de ser "Pelea del año 1947".

Después de este combate, Graziano no fue derrotado en 21 combates consecutivos hasta que se enfrentó con Sugar Ray Robinson que era el campeón del Mundo de los pesos medios.

El combate levantó gran expectación pero sin embargo únicamente duró tres asaltos y Robinson ganó el combate y retuvo el título.

Graziano fue interpretado por Paul Newman en la película Marcado por el odio.