Après des études de comptabilité, Jack Elam intègre le monde du septième art par la petite porte en devenant financier de nombreuses productions hollywoodiennes. L'Américain débute devant la caméra dans les années 50, et profite d'un physique très particulier (massif, le visage buriné, il est borgne depuis l'adolescence) pour incarner des rôles de brutes, en particulier dans des westerns : il est à l'affiche de L' Attaque de la malle-poste, Le Train sifflera trois fois, Vera Cruz ou Règlement de comptes à O.K. Corral.
Second rôle très prisé, Jack Elam et son faciès patibulaire font merveille dans des films noirs comme Count the Hours ou En quatrieme vitesse. Dans les années 60, l'acteur apparaît dans quelques comédies mais le western, son genre de prédilection, le rattrape très vite : il s'illustre dans Il était une fois dans l'Ouest de Sergio Leone, et Rio Lobo, où il donne la réplique à John Wayne.
Dans les années 70, Jack Elam connaît un succès moindre sur grand écran. C'est la télévision qui le popularise avec les séries Gunsmoke, Les Mystères de l'Ouest, L'Ile fantastique, Kung-fu ou Bonanza. Dur au coeur tendre, méchant vicelard ou brute épaisse, Jack Elam aura marqué le septième art de son imposante empreinte. Il aura cotoyé les plus grands, de John Wayne à James Garner, en passant par Robert Aldrich, Don Siegel et Frank Capra.