Ouvrier chez Renault, champion de volley-ball puis journaliste au journal L'Equipe, Michel Constantin débute sa carrière cinématographique sous la direction de Jacques Becker dans Le Trou, en 1959. Homme au physique impressionnant, il campe régulièrement des rôles de policiers ou de truands. Il joue notamment pour Robert Enrico (Les Grandes gueules), Jean-Pierre Melville (Le Deuxième souffle), Georges Lautner (Ne nous fâchons pas, Il etait une fois un flic) ou encore José Giovanni (La loi du survivant, Dernier domicile connu).
En 1982, il participe au Deux heures moins le quart avant Jésus-Christ de Jean Yanne, puis joue sous la direction de Henri Verneuil dans Les Morfalous. Il était également connu son rôle de flic dans la série télévisée Paparoff et pour avoir animé sur TF1 l'émission Anagram.