Charles Bailly, prisonnier de guerre, n'est pas particulièrement malheureux dans la ferme allemande où il travaille depuis trois ans, mais son épouse lui manque et la nostalgie de son pays est plus fort que l'amitié de la fermière... Il décide donc de prendre la clé des champs...
Pour ne pas subir l'échec de ses camarades qui ont tenté le coup, Bailly imagine de prendre le chemin de la liberté, en tenue de prisonnier, avec une vache en laisse... Flanqué de l'animal baptisé Marguerite, que lui a volontiers cédé la fermière, Charles prend la direction de la France, et entreprend une longue marche qui devrait durer trois mois...
Auteur d'une vingtaine de court-métrages entre 1947 et 1950, Henri Verneuil fait une rencontre déterminante en la personne de Fernandel, qui accepte de jouer dans son premier long, La Table aux crevés, en 1951. De leur collaboration naissent ensuite plusieurs succès (Le Fruit défendu, Le Mouton à cinq pattes, Le Grand chef...), dont le plus emblématique reste La Vache et le prisonnier.
Fait divers authentique relaté dès 1945 dans un ouvrage de l'auteur Maurice Dekobra, La Perruche Bleue, La Vache et le prisonnier fut un triomphe absolu en salle, avec plus de 8,8 millions de spectateurs. Plus grand succès du Box Office français en 1959, le film ravivait aussi chez les spectateurs des souvenirs émus et douloureux, quoique attendris par la présence de Marguerite, quatorze ans à peine après la fin de la guerre.
Trois ans auparavant, La Traversée de Paris, chef-d'oeuvre de Claude Autant-Lara, avait au contraire suscité une vive controverse, brisant plusieurs tabous dans sa description de l'Occupation, avec son humour noir, sa représentation du marché noir ainsi que celle des collaborateurs / profiteurs de guerre.
Toujours est-il que La Vache et le prisonnier fut le premier gros succès commercial pour Henri Verneuil, qui avait dû passer en revue pas moins de 600 vaches pour trouver la perle rare, celle qui allait "incarner" Marguerite.
Cette pauvre bête, qui fit d'ailleurs réellement avec Fernandel les 200 km à pied reliant Munich à Stuttgart durant le film, devait terminer ses jours à l'abattoir à la fin du tournage, où Verneuil devait la rendre à son propriétaire. Mais le cinéaste s'opposa énergiquement au funeste destin de l'animal, et trouva pour la star bovine un pré en Normandie où elle a pu finir ses jours tranquillement.