Il est désormais de notoriété publique que les relations entre Louis de Funès et Jean Lefebvre n'étaient pas des plus harmonieuses et ce dès le tournage du Gendarme à New York. L'on entend souvent que le second accusait le premier d'avoir tout fait pour réduire sa présence à l'écran. Ce serait en réalité l'attitude de l'interprète de Fougasse qui aurait précipité leur mésentente.
Dans son autobiographie Les Rôles de ma vie, Michel Galabru revient sur le clash entre les deux comédiens. "Jean Lefebvre ne cachait plus sa jalousie envers Louis de Funès. [...] Il prétendait que de Funès avait fait couper plusieurs de ses scènes. Lefebvre avait un caractère curieux, avec une tendance à réclamer un peu continuellement." D'après l'interprète de Gerber, de Funès en était le premier inquiet et lui aurait confié : "Il est fou. Je n'ai jamais demandé une chose pareille. Je ne l'ai pas empêché de tourner." Selon Galabru, Jean Lefebvre n'aurait pas supporté l'ascension fulgurante de de Funès après le premier épisode.
De fait, les scènes impliquant Jean Lefebvre dans ce deuxième opus peuvent se compter sur les doigts d'une main. D'après le journaliste Bertrand Dicale, auteur de la briographie Louis de Funès, grimaces et gloire, c'est un tout autre événement qui aurait tout fait basculer. Alors en plein tournage des dernières séquences du film, une dispute éclate entre le réalisateur Jean Girault et Jean Lefebvre. De rage, ce dernier quitte le plateau. Ce départ inattendu amène le scénariste Jacques Vilfrid à revoir ses plans et donc, trouver une astuce pour justifier l'absence du personnage. D'où la maladie de Fougasse, son hospitalisation et sa non participation aux activités de la brigade à New York.
A cela s'ajoutent les dires du producteur du film, rapportées par Michel Galabru dans son autobiographie : "Ce n'est pas à cause de Louis de Funès" lui aurait-il dit. "C'est moi qui ai pris cette décision. Jean Lefebvre a fait arrêter le tournage sous prétexte qu'il était malade. Et nous l'avons surpris en train de jouer au casino en pleine nuit." Des propos corroborés par le directeur de la photographie de Jean Girault, Jean Tournier. Ce tournage marquera donc un point de non retour pour Jean Lefebvre dont les relations avec l'équipe se détérioreront davantage sur le tournage du 3ème film, Le Gendarme se marie. Il apparaîtra pour la quatrième et dernière fois dans la saga au générique du Gendarme en balade.