Ha recibido nominaciones al premio Primetime Emmy y NAACP Image Award.

[2]​ En 1958 se graduó en la escuela secundaria de East Orange, Nueva Jersey.

Amos es conocido por interpretar a personajes como Gordy Howard (el hombre del clima) en The Mary Tyler Moore Show desde 1970 hasta 1973.

Amos pretendía que los guionistas desarrollaran la comedia que podría generarse a partir de eso, pero los escritores prefirieron quedarse con el estereotipo de joven negro de J. J. En 1989, John Amos tuvo destacada participación en la película Lock Up (conocida en español como Encerrado o Condena brutal) interpretando al correcto y carismático Capitán Meissner.

John Amos interpretó al capitán Dolan en la serie de televisión Hunter entre 1984 y 1985.

Fue un invitado frecuente en la serie The West Wing, retratando al almirante Percy Fitzwallace, quien se desempeñaba como presidente del Estado Mayor Conjunto durante la mayor parte de la serie.

En 2010, apareció como un personaje recurrente, Ed, en la serie de comedia Two and a Half Men.

Ha sido actor invitado en varios programas de televisión, como The A-Team, The Cosby Show, El Príncipe de Bel-Air, In the House, Martin (como el sargento Hamilton Strawn, el padre de Tommy), Touched by an Angel, Psych, My Name Is Earl, Lie to Me y Murder, She Wrote.

John Amos escribió y produjo el unipersonal Halley's Comet, que fue aclamada por la crítica.

Protagonizó Vamos a hacerlo otra vez (1975) en Kansas City Mack con Bill Cosby y Sidney Poitier.

Amos fue presentado en Disney de atleta más grande del mundo con Tim Conway y Jan-Michael Vincent.

[7]​ Amos tiene la distinción de haber ganado más Premios TV Land que nadie, por sus papeles en The Mary Tyler Moore Show, Good Times y la miniserie de televisión Raíces.

Amos vivió durante muchos años en el municipio de Tewksbury, Nueva Jersey.