Gray jugó primeramente en el Emmaus High School, en Pensilvania.
En las dos últimas demostró que podía ser un gran jugador profesional en el futuro, con promedios de 13,5 puntos, 10 rebotes y 1,6 tapones por partido.
Fue elegido All-American por Associated Press y ayudó a su equipo a meterse en sweet sixteen del torneo de la NCAA de 2007.
Algo similar ocurrió en su segunda temporada en la liga, aunque llegó a ser titular durante bastantes partidos, con buenas actuaciones como la producida el día 26 de diciembre ante los Miami Heat, donde consiguió 12 puntos, 11 rebotes y 1 asistencia en 25 minutos en cancha.
Se unió posteriormente al equipo de Stan Van Gundy como asistente.