Con una apariencia muy reconocible y con un humor muy punzante que llega fácilmente al público, es conocido por ser Louie De Palma en la serie Taxi (1978-83), además de haber actuado en películas como One Flew Over the Cuckoo's Nest y La fuerza del cariño.

En 1999, produjo y coprotagonizó Man on the Moon, una película protagonizada por Jim Carrey basada en la inusual vida del cómico estadounidense Andy Kaufman.

También trabajó en la película Dr. Seuss' The Lorax, poniendo su voz al personaje de El Lorax, y en las versiones hispanoamericana y española también, es decir que participó tanto en la versión original como en sus doblajes.

En 2019 actuó en la película Dumbo interpretando el papel de Max Medici.

Estuvo casado con la también actriz Rhea Perlman desde el 28 de enero de 1982 hasta el 2017, a la que conoció en la serie Taxi y con la que volvió a compartir protagonismo en Matilda.