Comenzó su carrera hacia finales de los años 40 actuando en papeles menores para el cine y la televisión.Efrem es conocido por ser el protagonista de las series: 77 Sunset Strip (1958-1964), donde interpretó al detective privado Stuart Bailey en 163 capítulos y The F.B.I.(1965-1974), como el inspector Lewis Erskine, en 240 capítulos, cuyo papel lo consagró y lo hizo famoso mundialmente.Aportó su voz a las series animadas Batman (1993) como Alfred, y Spider-Man (1994) como el Doctor Octopus.Zimbalist asistió a Paul's School en Concord, New Hampshire, participando en obras de teatro escolares.Después de la guerra, Zimbalist regresó a Nueva York haciendo su debut en Broadway actuando en The Rugged Path siendo el protagonista Spencer Tracy.fue en la serie de televisión como un pícaro jugador Dandy Jim Buckley en Maverick opuesto a James Garner en 1957 teniendo cinco apariciones con esa interpretación.En 1958 Zimbalist fue coprotagonista como Stuart "Stu" Bailey en 77 Sunset Strip, un detective de una serie muy popular hasta 1964 que finalizó.Zimbalist fue generoso en su elogio al productor Martin y de su propia experiencia como protagonista.Falleció aparentemente por causas naturales en su casa en Santa Bárbara, California, siendo encontrado por su hijo tirado en el jardín.