Creció en Compton, California, actuando en obras escolares, y llegando a hacer su debut sobre las tablas en La Jolla Playhouse.
En la década de 1970, colaboró con el conocido director italiano Sergio Leone en la película ¡Giù la testa!
Probablemente, James Coburn fue el primer sorprendido en 1998 cuando fue candidato y ganó el Óscar al Mejor actor de reparto por interpretar al alcohólico padre de Nick Nolte en Affliction (1997).
A los setenta años de edad, James Coburn recibió un nuevo impulso en su carrera, apareciendo en catorce títulos.
Sus restos se encuentran en el Cementerio Westwood Village Memorial Park de Los Ángeles, California.