Scharner comenzó jugando para el Austria Viena, desde 1998 hasta 2004, disputó 84 partidos, fichando ese año por el Red Bull Salzburgo, aunque solo estaría una sola temporada en el club de Salzburgo, saliendo ese mismo año para el extranjero fichando por el SK Brann noruego, allí permanecería dos años, hasta dar el salto a una gran liga europea en 2006, fichando por el Wigan Athletic de la Premier League.
Ya en su primer partido marcó un gol contra el Arsenal FC en la Carling Cup.
En agosto de 2009, Scharner marcó su primer gol en liga contra el Everton FC.
Tras perder 5-0 contra el Manchester United, el entrenador Roberto Martínez decidió poner a Scharner como mediapunta.
Al término de la temporada 11-12 Paul Scharner decidió no renovar con el club por lo que se convirtió en agente libre.