Su éxito con el Bayern lo convierte en el poseedor del récord de títulos de la Bundesliga, empatado con sus excompañeros Oliver Kahn y Bastian Schweinsteiger.
Se inició en 1989 en las filas del Karlsruher SC, de donde fue traspasado al Bayern Múnich en 1992, donde jugó por quince temporadas.
Es uno de los jugadores que más veces ha jugado en el Bayern (16 años, con 469 partidos y 117 goles).
Scholl se retiró del fútbol en un amistoso con el F. C. Barcelona, que venció al Bayern 0-1 con gol de Lionel Messi, el 15 de agosto de 2007.
En su retirada, se hizo un cambio único, un dorsal 7 por otro 7, Franck Ribéry.