Entre las obras de teatro que interpretó se encuentra La soga.
En 1962 nació su hijo Matthew Broderick, en la ciudad de Nueva York.
Sus papeles en películas notables incluyen la figura del padre de una comuna en Nueva Inglaterra en Alice’s restaurant (1969), y un agente del FBI en Tarde de perros (1975).
En 1978 recibió una nominación al premio Emmy por mejor actor principal en una serie dramática.
Su hijo, el actor Matthew Broderick (n. 1962) le puso a su hijo (con su esposa Sarah Jessica Parker) el nombre de James en honor a su padre.