Como jugador ganó 4 anillos de la NBA entre los años 1957 y 1961 con los Boston Celtics, y, como técnico, entrenó a varios equipos, siendo lo más destacado su periplo en Los Angeles Lakers desde 1971 a 1976, donde consiguió 1 anillo más.
Tras la guerra, Sharman se matriculó en la Universidad de Southern California, disputando con los Trojans 4 temporadas, promediando 13,5 puntos por partido.
Comenzó jugando al béisbol en las Ligas Menores, pero pronto se centró en el baloncesto.
Sin embargo, no pudo defender el título, ya que esa liga desapareció a mediados de la temporada 1962-63.
Hasta hoy, ha sido el único entrenador en recibir tal galardón en tres ligas diferentes.