Oponente al régimen de Metaxas, fue deportado entre 1937 y 1940.
Se alistó como voluntario en el ejército para luchar contra las fuerzas de invasión italianas, y pasó a dirigir una organización clandestina de jóvenes nacionalistas al principio de la ocupación de Grecia por las Fuerzas del Eje.
Con ayuda de los británicos se refugió en Medio Oriente donde inició su carrera política.
Cuando Caramanlís dimitió en 1963, Kanellopulos se convirtió en el líder del partido Unión Nacional Radical (ERE).
A partir de 1974, durante la Metapolítefsi (periodo de transición hacia la democracia), Kanellopulos reanudó su actividad parlamentaria como miembro del partido Nueva Democracia.