Elam se dedicó a la cosecha del algodón en su juventud, y perdió la vista en su ojo izquierdo al clavársele en el mismo accidentalmente, un lápiz, durante una reunión de los Boy Scouts de América.Después estudió en el Santa Monica College, en California, y posteriormente trabajó como contable en Hollywood, siendo uno de sus clientes el productor cinematográfico Samuel Goldwyn.Jack Elam debutó en el cine en 1949 con el film She Shoulda Said No!, una película exploitation sobre una corista fumadora de marihuana.Elam trabajó en dos westerns rodados en tierras españolas: Hasta que llegó su hora (C'era una volta il West) -de Sergio Leone, en la que aparecía en la primera secuencia, junto a Woody Strode y Al Mulock, enfrentado a Charles Bronson- y Sonora -de Alfonso Balcázar, junto a Gilbert Roland y Rosalba Neri-.En el documental I Am Not A Freak[5] puede verse cuán cercanos estaban el uno del otro.
El rostro característico de Jack Elam le permitió interpretar recurrentemente a psicóticos y malvados en el cine.
