Jean Gabin, passé un certain âge, ne voulait plus quitter la Normandie où il avait sa principale résidence, sa ferme. Lorsqu'on lui annonce qu'il va devoir tourner des scènes du Cave se rebiffe en Amérique du Sud, l'acteur menace de quitter le projet. Le tournage a donc eu lieu en Normandie, où quelques plantes vertes font office de décor censé rappeler le pays des incas.
A la fin du Cave se rebiffe, on trouve un carton, similaire à ceux qu'on pouvait trouver dans certains films noirs américains, prenant des distances avec les personnages de gangsters. Celui-ci fonctionne comme un hommage et conclut l'oeuvre sur une note d'humour fidèle au ton de l'ensemble.
La première version du Cave se rebiffe fut écrite en douze jours par Michel Audiard. On y retrouve le goût des bons mots chers l'auteur comme cette célèbre phrase de Ferdinand Maréchal : "Les bénéfices ça se divise, la réclusion ça s'additionne."
Le film est l'adaptation d'un roman d'Albert Simonin. Michel Audiard adapta le rôle de Ferdinand Maréchal à la personnalité d'un de ses acteurs fêtiches, Jean Gabin. Le personnage n'avait pas une telle envergure dans le roman. C'est ici un vrai caïd.
Le Cave se rebiffe marque la deuxième collaboration de l'actrice et de Gilles Grangier. Le réalisateur l'avait employée en 1945 dans Trente et Quarante.
L'entente entre Jean Gabin et Gilles Grangier était telle que les deux hommes travaillèrent ensemble sur plus de dix films. Parmi cette importante production, on retient notamment Gas-oil, Le Desordre et la Nuit, Le cave se rebiffe ou Maigret voit rouge.
Le cave se rebiffe marque la septième et dernière collaboration entre Jean Gabin et Bernard Blier. Les deux acteurs sont ensemble au générique de Le Jour se lève (1939), Crime et Chatiment (1956), Les Miserables (1957), Les Grandes Familles (1958), Archimede le clochard (1959) de Gilles Grangier et Le Président (1961).
Bernard Blier, qui doit sa présence dans le film à une suggestion de Jean Gabin, interprète ici un bandit un peu veule, rôle qu'il reprendra avec suucès quelques années plus tard dans Les Tontons flingueurs.
Si Le Cave se rebiffe n'emporta pas en 1961 l'adhésion de l'ensemble de la critique, le film connut un important succès public.
La scène de rencontre entre Ferdinand Maréchal et son associé devait être tourné en Amérique du Sud. Jean Gabin refusa de partir si loin. La scène fut donc tournée en Normandie.