Gimelstob acudió a la Academia Newark en Livingston, de la cual se graduó en el año 1995.
Gimelstob ingresó al profesionalismo en 1996, luego de estar un año en UCLA y desde ese momento se estableció completamente en el tenis, convirtiéndose en un especialista en dobles, obteniendo 12 títulos.
En 11 apariciones en el Abierto de Estados Unidos, ha jugado con 11 parejas distintas.
Ganó en 1998 los títulos de dobles mixtos del Abierto de Australia y de Roland Garros, haciendo pareja con Venus Williams.
Gimelstob es bien conocido por sus opiniones en el blog de Sports Illustrated y como pareja de Corina Morariu.