Un día fue duramente castigado por haber dibujado durante las clases y su padre lo envió entonces al St.
Grayson invirtió entonces su pequeña herencia en un comercio, pero pasaba el tiempo recorriendo el campo y pronto se arruinó.
Junto con su esposa, Frances J. Timmons y después del nacimiento de su único hijo, deciden trasladarse a California.
Era pobre pero tenía en mente un gran proyecto: estudiar los pájaros del oeste de México y hacerlos aparecer en sus pinturas.
Encontró un trabajo en la costa, lo que le permitió sobrevivir y poder ahorrar para volver a los Estados Unidos.
En 1866, Grayson obtuvo del emperador Maximiliano I (1832-1867) y de su esposa, la emperatriz Carlota (1840-1927), una audiencia.
Tras su muerte, la viuda de Grayson intentó publicar sus notas y sus dibujos, pero una vez más este proyecto fracasó.