En 1998 fue candidato para suceder al brasileño João Havelange como presidente de la organización, pero fue derrotado por Joseph Blatter.
El 19 de abril de 1990, en el Congreso Ordinario de la UEFA celebrado en Malta, Johansson fue elegido presidente del organismo europeo tras superar en las votaciones al suizo Freddy Rumo por 20 votos a 15.
Finalmente, fue superado por Michel Platini en las elecciones celebradas en el congreso del 26 de enero de 2007 en Düsseldorf, por 27 votos a 23.
Durante su mandato al frente de la UEFA, la confederación europea vivió un importante crecimiento con la incorporación de 21 nuevos asociados, en su mayoría estados de la Europa del Este surgidos tras el comunismo.
Ello comportó también el traslado a una nueva sede en la ciudad suiza de Nyon, inaugurada en 1995.