Llevó una vida nómada en la que atravesó los Estados Unidos y acabó por establecerse en Los Ángeles.
Comenzó su carrera literaria en 1963 con City of Night (La Ciudad de la Noche), en la que narraba su experiencia como chapero, con el que consiguió ser un best seller internacional todavía hoy estudiado en numerosos cursos de literatura contemporánea estadounidense.
John Rechy también ha trabajado en teatro, escribiendo numerosas obras, entre ellas tuvo éxito Tigers Wild.
Al trabajo como escritor se suma su labor como profesor de literatura en la University of Southern California.
En 2014, UC Santa Bárbara lo honró con el Premio Luis Leal por distinción en literatura chicana/latina.