Después de graduarse consiguió un empleo en una cadena hotelera húngara; y en 1976 fue nombrado director del Hotel Astoria, cargo que ocuparía hasta 1981 cuando fue nombrado director del Estadio Ferenc Puskás.

[3]​ Ganó seis medallas en el Campeonato Mundial de Esgrima entre los años 1967 y 1974.

En 1998 dejó de representar a Hungría ante España y Andorra cuando fue nombrado embajador ante Suiza, y al año siguiente, 1999, también fue acreditado como concurrente ante Liechtenstein.

En las elecciones europeas del 2009 Schmitt fue reelegido eurodiputado de Hungría, y después el Partido Popular Europeo (al que pertenece a nivel europeo el Fidesz) lo postuló a vicepresidente del Parlamento Europeo, siendo elegido por la plenaria parlamentaria.

[9]​[10]​ Schmitt tomó posesión del cargo de presidente el 6 de agosto del 2010, reemplazando al presidente saliente László Sólyom.