Lee Van Cleef sert dans la Marine américaine durant la Seconde Guerre mondiale. Il travaille sur des dragueurs de mines et sur des torpilleurs. Après la guerre, il se tourne vers la comédie et multiplie les castings pour décrocher des rôles. Il est engagé en 1949 sur la série télévisée The Lone Ranger puis en 1951 sur The Range Rider. En 1952, il se fait remarquer par le producteur Stanley Kramer qui lui confie un petit rôle dans Le Train sifflera trois fois (1952) de Fred Zinnemann avec Gary Cooper. Malgré un personnage sans dialogues, son physique non-avenant lui vaut de décrocher d'autres rôles de bandits. Il côtoie ainsi de nombreuses grandes stars dans plusieurs westerns, son genre de prédilection : Rock Hudson dans Victime du destin (1953) ; Kirk Douglas dans L'Homme qui n'a pas d'étoile (1955) ; Henry Fonda dans Du sang dans le désert (1957) ; Burt Lancaster dans Règlement de comptes à O.K. Corral (id.) ; John Wayne dans L'Homme qui tua Liberty Valance (1962).

Sa carrière ralentit sérieusement au début des années 1960 à cause d’un accident de voiture. Une fois remis sur pieds, il envisage de se consacrer à la peinture et de laisser tomber le cinéma. C’est alors qu’il reçoit un coup de fil d'Italie d’un certain Sergio Leone lui proposant de jouer l'un des rôles principaux dans le western culte Et pour quelques dollars de plus, où il donne la réplique à Clint Eastwood. Un an plus tard, il retrouve le tandem Leone/Eastwood avec le non moins culte Le Bon, la brute et le truand en campant le rôle de la brute. Fort de ces deux succès, il s’affiche dans plusieurs westerns spaghettis (Sabata en 1969, Le Retour de Sabata en 1971, Les Impitoyables en 1977 etc.), mais le déclin progressif de ce genre affecte considérablement sa carrière. Peinant à se renouveler, il joue dans de nombreuses séries B un peu ridicules comme L'Homme aux nerfs d'acier (1977) avec Jean Rochefort, "La Fureur du juste" (1980) avec Chuck Norris, ou encore la série L'homme au katana (1984), où il interprète un spécialiste des arts martiaux.

Grand fan de westerns, John Carpenter lui propose néanmoins de jouer dans l’excellent New York 1997 face à Kurt Russell. Mais le reste de ses prestations se limite aux séries B et aux autres nanars, comme Nom de code: Oies sauvages en 1984, Armés pour répondre en 1986, Der Commander en 1988, etc. Lee Van Cleef s’éteint en 1989 à la suite d’une crise cardiaque. La grande quantité de films médiocres qu'il compte dans sa filmographie ne doit pas faire oublier à quel point il a excellé dans de nombreux westerns mémorables.