[1]​ Inició su carrera en el teatro, trabajando en obras treatales clasicas principalmente de Shakespeare.

En la década de los años 60 y 70, Sam participó en películas como Norma Jean (1966), Generación rebelde (1969), Savages (1972), El Gran Gatsby (1974), Vida sin barreras (1975), Capricornio Uno (1977), Interiores (1978), entre varias más.

En la siguiente década, el actor personificó al corresponsal de guerra Sydney Schanberg en la galardonada película Los gritos del silencio (1984), que le valió una nominación al Óscar a mejor actor.

En los años 90, el actor desarrollo una sólida trayectoria en televisión, en series como The Civil War (1990), I'll Fly Away (1991) y, en especial, Law & Order (1994-2010 y 2020-2024), en el papel de Jack McCoy, a lo largo de 20 años y 405 episodios, y al directivo de una cadena de televisión en The Newsroom.

Nominado: 2000 - Mejor actor en serie dramática, "Law & Order" Nominado: 1999 - Mejor actor en serie dramática, "Law & Order" Nominado: 1998 - Mejor actor en serie dramática, "Law & Order" Ganador: 1996 - Mejor serie informativa, "Lost Civilizations" Nominado: 1994 - Mejor actor - Miniserie o telefilme, "I'll Fly Away: Then and Now" Nominado: 1993 - Mejor actor en serie dramática, "I'll Fly Away" Nominado: 1992 - Mejor actor en serie dramática, "I'll Fly Away" Nominado: 1974 - Mejor actor de reparto, "The Glass Menagerie" Nominado: 1995 - Mejor actor en serie de televisión - Drama, "Law & Order" Ganador: 1993 - Mejor actor en serie de televisión - Drama, "I'll Fly Away" Nominado: 1992 - Mejor actor en serie de televisión - Drama, "I'll Fly Away" Nominado: 1985 - Mejor actor - Drama, "The Killing Fields" Nominado: 1983 - Mejor actor - Miniserie o telefilme, "Oppenheimer" Nominado: 1975 - Mejor actor de reparto, "The Great Gatsby" Nominado: 1975 - Nueva estrella del año - Actor, "The Great Gatsby" Nominado: 2004 - Mejor reparto en serie dramática, "Law & Order" Nominado: 2002 - Mejor reparto en serie dramática, "Law & Order" Nominado: 2001 - Mejor reparto en serie dramática, "Law & Order" Nominado: 2000 - Mejor reparto en serie dramática, "Law & Order" Ganador: 1999 - Mejor actor en serie dramática, "Law & Order" Nominado: 1999 - Mejor reparto en serie dramática, "Law & Order" Nominado: 1999 - Mejor actoren serie dramática, "Law & Order" Nominado: 1998 - Mejor reparto en serie dramática, "Law & Order" Nominado: 1997 - Mejor reparto en serie dramática, "Law & Order"