En el año 1970, actuó en la producción de Broadway Purlie, por la que tuvo un premio Drama Desk y un Tony.

En 1989, ganó un Premio Primetime Emmy al mejor actor invitado en la comedia de NBC Dear John.

Después de Blazing Saddles, Little apareció en las películas Greased Lightning, FM, High Risk, Scavenger Hunt, Jimmy the Kid, Surf II y Toy Soldiers.

Ese mismo año, tuvo un papel secundario en la serie de TV Bagdad Cafe, apareciendo en 12 episodios.

Posteriormente fue contratado para interpretar a un abogado de derechos civiles en el docudrama Separate But Equal, protagonizada por Sidney Poitier.

También apareció en la serie de televisión MacGyver, como Frank Colton, junto a Richard Dean Anderson y Dana Elcar.