Issu d'une famille pied-noir, Jean Benguigui incarne le type même du personnage méditérannéen. Mais, paradoxalement, il apparaît pour la première fois à l'écran dans un film d'époque consacré à des calvinistes, Les Camisards, de René Allio (1970). En 1976, il retrouve son pays d'origine dans La Question, de Laurent Heynemann, un drame, qui prend place en pleine guerre d'Algérie. En 1979, toujours dans une veine très dramatique, il incarne Jean-Jean dans La Dérobade.
Jean Benguigui fait une première échappée vers un registre plus léger, avec Buffet froid, de Bertrand Blier, en 1979. Deux ans plus tard, commence une collaboration fidèle avec le réalisateur Alexandre Arcady, sur le tournage du Grand Pardon. En 1983, ils se retrouvent pour Le Grand Carnaval.
Jouant désormais de son physique bonhomme, Jean Benguigui se fait plus présent dans des comédies. En 1982, il joue aux côtés de Philippe Noiret et de Catherine Deneuve dans L' Africain. En 1986, il découvre l'univers comique de Francis Veber dans Les Fugitifs. Il fait également partie de l'équipe de Ripoux contre ripoux (1989).
Dans les années 90, il est le spécialiste de savoureux seconds rôles. Il apparaît dans le film policier Dr M. (1990), de Claude Chabrol. Il est Doga dans l'épopée de La Belle histoire (1991), de Claude Lelouch. Dans la satire Ma Vie est un enfer (1991), il incarne le voisin bougon de Josiane Balasko.
Sa participation à Astérix et Obélix : mission Cléopâtre (2000), dans un rôle de client râleur, lui permet de séduire les jeunes générations. L'année suivante, il joue dans un autre film ambitieux, Le Boulet, où son personnage est presque une caricature. En 2004, il est un doux père de famille, un pied noir, dans Au bout du monde à gauche, de l'israélien Avi Nesher.