Schrempf se trasladó a los Estados Unidos en su primer año de instituto, asistiendo al Centralia High School en Centralia, en el estado de Washington, durante dos años.

Durante su estancia en la universidad fue un miembro de la asociación Phi Delta Theta y se especializó en Negocios Internacionales.

Durante sus primeros años con los Pacers, fue unos de los mejores suplentes de la NBA, ganando consecutivamente el Premio al Mejor Sexto Hombre en 1991 y 1992.

Junto con Gary Payton, Shawn Kemp, Sam Perkins y Hersey Hawkins, entre otros, al equipo se le conoció como el Sonic Boom, y llegó a las Finales de la NBA en 1996 donde perdieron contra los Chicago Bulls de Michael Jordan en seis partidos.

En 1999 fue puesto en venta y contratado el mismo día por los Portland Trail Blazers, con los que jugó hasta su retirada del baloncesto profesional en 2001.