Nacido en Viena, Gratz se afilió a los socialistas (SPÖ).
De 1963 a 1966 fue miembro del Bundesrat, de 1970 a 1971 fue el ministro Federal de Educación y Artes.
De 1973 a 1984 fue Alcalde de Viena y cabeza del gobierno municipal.
Estuvo en medio de dos escándalos, el "Bauring" (sobre la construcción del Vienna General Hospital) y el asunto Udo Proksch.
Gratz murió en Viena en marzo del 2006.