Houston acudió al Ballard High School en Louisville, donde logró el campeonato estatal en Kentucky en 1988.

Después pasó 4 temporadas en la Universidad de Tennessee, donde estuvo desde 1989 hasta 1993, entrenado por su padre Wade Houston.

Debutó en la temporada 1989-90 con unos espectaculares promedios de 20.3 puntos, 2.9 rebotes y 4.2 asistencias.

Firmó una temporada muy completa en su año júnior, con 21.1 puntos (41.8 en triples), 5.3 rebotes y 3.2 asistencias.

En su última temporada, la 1992-93 acabó con 22.3 puntos, 4.8 rebotes y 3.1 asistencias de media.

En su tercera campaña en Detroit llegó a los playoffs por primera vez en su carrera deportiva, y firmó 25 puntos en la derrota por 3-0 ante Orlando Magic.

Eso si, disputó los 81 partidos como titular indiscutible, en detrimento de John Starks.

En su primera temporada con New York llegó a los playoffs, donde cayeron 4-3 ante Miami Heat en semifinales de conferencia.

Perdieron 4-1 ante los Spurs de Tim Duncan y David Robinson.

El 16 de febrero de 2003 firmó ante Los Angeles Lakers el mejor partido que se le recuerda en la NBA, en una exhibición que le llevó a anotar 53 puntos en el STAPLES Center.

En la temporada temporada 2003-04 se perdió 32 partidos y promedió 18.5 puntos, mientras que en la 2004-05 tan sólo disputó 20 partidos firmando 11.9 puntos de media, dado que la rodilla todavía no estaba completamente recuperada.

En marzo de 2007 se rumoreó que Houston quería volver a las pistas y que Miami Heat, Detroit Pistons, Cleveland Cavaliers, San Antonio Spurs y Phoenix Suns estaban interesados en sus servicios.

Esta regla fue bautizada por la prensa especializada como la "Allan Houston Rule", pues se entendía que si a algún equipo le venía como anillo al dedo era a los New York Knicks, para deshacerse del impuesto que causaba el alto contrato del veterano con problemas de lesiones, a quien se le pagó unos $40 millones por los próximos dos años que le restaban.