Penn fue alumno y graduado de la Freehold Township High School, pero a veces se dice que se ha graduado en la Howell High School, donde cobró protagonismo en la escuela con algunas producciones teatrales, o en The Fine and Performing Arts Specialized Learning Center, donde estuvo durante tres años.

Es conocido por sus papeles como protagonista en películas como National Lampoon's Van Wilder, Harold & Kumar Go to White Castle, El buen nombre, Van Wilder 2, La rebelión de Taj y Harold & Kumar Escape from Guantanamo Bay.

Interpretó al doctor Lawrence Kutner en la serie de televisión House M. D., hasta que su personaje fue eliminado en la quinta temporada.

Fue incorporado al reparto de How I Met Your Mother en la temporada 7.

La campaña de fin de semana se titulaba: «Donemos a los refugiados sirios en nombre del tipo que dijo que yo no pertenezco a Estados Unidos».