Né en Pennsylvanie, Walter Palahnuik (son vrai nom) est issu d'une famille de modestes émigrants ukrainiens. Après avoir été sur les planches la doublure d'Anthony Quinn puis le remplaçant de Marlon Brando dans Un tramway nommé désir, il tourne en 1950 ses deux premiers films, Okinawa et Panique dans la rue dans lesquels il donne la réplique à Richard Widmark. Le Masque arraché (1952) et L'Homme des vallées perdues (1953) le consacrent. Il s'impose en tant que méchant de service, le roi du sadisme façon Hollywood. Il devient un habitué des westerns comme Le Sorcier du Rio Grande (1953). Il excelle dans les péplums comme avec Le Signe du païen (1954) où il interprète Attila. En 1955, il campe un comédien alcoolique dans Le Grand couteau de Robert Aldrich, cinéaste qui lui offre l'année suivante un rôle marquant, celui d'un valeureux soldat dans Attaque. En 1962, il tourne avec Richard Fleischer dans Barabbas.
A partir des années 60, il part travailler en Europe. Sur le vieux continent, il reprend les personnages qui ont fait sa renommée Outre-Atlantique. C'est ainsi qu'il se glisse à nouveau dans la peau d'un chef barbare dans Les Mongols (1961) ou Le Glaive du conquérant (1961). Il tourne aussi avec de grands cinéastes tels que Jean-Luc Godard dans Le Mépris de 1963 ou Abel Gance sur Austerlitz. Il se frotte aux films de guerre comme La Derniere attaque (1961) et La Légion des damnés (1969). On le retrouve dans le western italien où il est capable du meilleur (Le Mercenaire) comme du pire (Amigo...Mon colt a deux mots à te dire). En 1965, Alain Delon est son partenaire dans Les Tueurs de San Francisco.
En 1966, grâce au film Les Professionnels, les studios hollywoodiens refont plus souvent appel à lui. Jack Palance explore aussi le genre fantastique avec Le Jardin des tortures (1967). Il s'essaye aux films dit de "cinéma bis", des films européens qui reprennent toutes les ficelles des productions hollywoodiennes, comme Companeros (1970) de Sergio Corbucci. Il tourne dans les derniers soubresauts du western comme Monte Walsh (1970) et Or noir de l'Oklahoma (1973). Dracula et ses femmes vampires est aussi un des films notables de sa filmographie. A l'origine c'est un téléfilm. Ce dernier remporte un tel succès aux Etats-Unis qu'il sortira en salle.
Bien qu'il continue de participer à de nombreux films, sa carrière connaît un ralentissement dans les années 70. Bagdad Café (1988) lui permet de faire un retour sous les feux de l'actualité. Il s'engage avec la nouvelle génération des westerns comme Young guns. Enfin, il est choisi pour Batman (1989) de Tim Burton. Hommage symbolique à son parcours de méchant, il interprète le père adoptif du Joker. Son Oscar du Meilleur second rôle pour La vie, l'amour, les vaches (1990) couronne à la fois sa performance et sa prolifique carrière.