En 1960, après le succès triomphal d'A bout de souffle, le producteur Georges de Beauregard est à la recherche d'autres jeunes cinéastes prometteurs. Jean-Luc Godard lui suggère les noms de Jacques Demy, Agnès Varda et Jacques Rozier, trois metteurs en scène en herbe, dont il a pu découvrir les courts métrages au Festival de Tours 1958 (celui de Rozier étant Blue jeans). Le premier se lance alors dans le tournage de Lola, la deuxième (qui a déjà signé La Pointe courte) dans celui de Cléo de 5 à 7, deux films qui sortent dès l'année 1961. S'il tourne Adieu Philippine au cours de l'été 1960, Rozier devra, lui, attendre trois ans avant que son film trouve le chemin des salles de cinéma, en raison notamment d'un long travail de post-synchronisation (le cinéaste doit lire sur les lèvres des comédiens pour retrouver les dialogues, parfois improvisés). De plus, les relations entre Beauregard et le cinéaste sont houleuses : à la fin d'une projection, le producteur, sous les conseils de Jean-Pierre Melville, demande au réalisateur de procéder à des coupes afin de réduire la durée du film. Rozier achèvera finalement la production du film avec l'Italien Carlo Ponti et Adieu Philippine sortira en salles le 25 septembre 1963, sans parvenir à rencontrer le public. La société de Jean-Luc Godard détiendra alors les droits du négatif, avant que celui-ci ne les cède au cinéaste en 1979, pour un franc symbolique.
Dans l'ouvrage (coordonné par Emmanuel Burdeau), qui lui est consacré en 2001, Jacques Rozier évoque la genèse du projet : "Ce qui me frappait, c'était la ligne de séparation existant alors entre ceux qui avaient vingt ans, concernés par la guerre, et le reste de la population française qui semblait ne pas trop d'en soucier. A ce décalage s'ajoutait, vers 58, l'apparition des premiers "bienfaits" de la société de consommation. Mais pour mon histoire de conscrit, j'avais très peu de documentation sur ce que représentait l'arrivée dans une caserne. Je me suis dit en plus qu'il n'y avait aucune chance d'obtenir l'autorisation d'y filmer. Donc lorsque je rencontre Georges de Beauregard, en mars-avril 60, je songe à faire plutôt une comédie frivole, avec un titre provisoire de comédie américaine légère, Embrassez-nous ce soir. L'histoire d'un garçon avec deux filles : il sort avec l'une, avec l'autre, à la fin elles restent toutes les deux, seules. J'ai soudain réalisé, en me demandant où pourrait partir ce garçon, qu'il pouvait fort bien être appelé sous les drapeaux, et croiser ainsi les deux idées, le film léger et le scénario plus grave."
Adieu Philippine a été présenté en 1962 au Festival de Cannes, dans le cadre de la toute première édition de la Semaine de la Critique, la plus ancienne section parallèle de la manifestation.
Dans un entretien accordé aux Inrockuptibles en 1996, Jacques Rozier évoquait les difficultés rencontrées à la suite de la projection du film sur la Croisette : "Ca a été un peu le coup de tonnerre. Des exploitants m'ont demandé le film et, manque de pot, le type à qui j'avais fait racheter les droits avait disparu ! C'était un type d'Algérie, membre de l'OAS, qui se planquait ! Moi qui avais fait un film sur la guerre d'Algérie, je ne pouvais pas le distribuer à cause d'un mec de l'OAS ! Après, le film a fini par sortir avec un distributeur qui ressemblait à Pachala, le personnage de producteur un peu misérable joué par Vittorio Caprioli. Quand je revois la scène où il est chez lui, avec sa femme, en train de gémir la tête dans les factures, au milieu de boites de pellicule, je me dis que c'était un plan prémonitoire : je me retrouvais dans la même situation !"
Si le spectateur sait rapidement que Michel, le héros de Adieu Philippine, doit partir pour son service militaire (le scénario original, écrit par Michèle O'Glor, avait d'ailleurs pour titre, Les Dernières semaines), le mot "Algérie" n'est pas prononcé une seule fois dans le film. La guerre qui y fait rage est alors un sujet tabou. Cependant, à l'occasion de la reprise du film, à la fin des années 70, Jacques Rozier décide d'ajouter, avant le générique, un carton sur lequel est indiqué "1960, sixième année de la guerre d'Algérie".
En 1962, les Cahiers du Cinéma, revue dans laquelle écrivent encore les Jeunes "Turcs" Rohmer, Godard ouTruffaut, choisissent de mettre en couverture de leur numéro spécial "Nouvelle vague" une photographie de Adieu Philippine. A l'intérieur, la revue propose un "dictionnaire des 162 nouveaux cinéastes français". Dans la notice, consacrée à Rozier, on peut lire, à propos de son premier long métrage : "Ce film est le parangon de la Nouvelle vague, celui où les vertus du jeunes cinéma brillent de leur éclat le plus pur, où ses méthodes reçoivent la plus claire et plus convaincante démonstration de leur bien-fondé, qu'il s'agisse du tournage à la sauvette, du choix de nouveaux visages, des emprunts au style TV, de la désinvolture du récit, du thème, enfin, de la jeunesse. Les autres fondateurs de la N.V. ont vite détourné son esprit à leur avantage, et leurs oeuvres plaident plus en faveur de leur génie propre que de celui de l'Ecole. Chez Rozier, c'est inverse, cela dit en bonne comme en mauvaise part. Adieu Philippine met un point final à la querelle des Anciens et des modernes ; il entérine la défaite du réalisme classique, dont le néo-réalisme italien d'après-guerre et ses actuels prolongements ne sont que les fils respectueux. Après ce film, tous les autres paraissent faux, et l'on conçoit mal que la recherche du naturel puisse être poussée plus loin."
Refusant de travailler avec des acteurs professionnels, Jacques Rozier a trouvé les comédiens principaux du film dans la rue. Notons que Juliette est interprétée par une jeune Italienne, Stefania Sabatini, repérée par le réalisateur sur une photographie dans les bureaux du producteur Carlo Ponti. Le film étant postsynchronisé, l'actrice est doublé par une Française, Annie Markhan, chanteuse d'un groupe yé-yé, les Gam's, devenue ensuite l'attachée de presse de Sheila.
Après un passage par l'IDHEC, Jacques Rozier travailla comme assistant de plateau dans les studios de télévison des Buttes-Chaumont. C'est ainsi qu'il fit connaissance avec l'un des plus fameux réalisateurs de dramatiques pour le petit écran, Stellio Lorenzi. Celui-ci donnera au cinéaste l'autorisation de filmer la préparation d'un de ses films pour une séquence d'Adieu Philippine, dont le héros, Michel, exerce le métier de machiniste. On assiste donc aux répétitions de Montserrat, avec des comédiens tels que Jean-Claude Brialy, Michel Piccoli ou Robert Hirsch, Lorenzi apparaissant lui aussi dans son propre rôle. Dans la première scène d'Adieu Philippine, c'est au tournage d'une autre émission que nous convie Rozier : Jazz memories de Jean-Christophe Averty.
Adieu Philippine marque les débuts de René Mathelin, un chef-opérateur qu'on retrouvera au générique de plusieurs grands succès du cinéma français, notamment les comédies d' Yves Robert :(Alexandre le Bienheureux, Le Grand Blond avec une chaussure noire, Un éléphant, ça trompe énormément et Nous irons tous au paradis) et Max et les Ferrailleurs de Claude Sautet.
Adieu Philippine a été tourné à Paris du 15 septembre au 8 octobre 1960, puis en Corse (où Michel part passer ses dernières vacances) du 7 août au 4 septembre 1960.
En 1962, Jacques Rozier tourne un film-annonce de Adieu Philippine, d'une durée de 8 minutes. On peut notamment y voir François Truffaut interviewer, sur la Croisette, les jeunes actrices du film. Dans son fameux ouvrage Les Films de ma vie (publié en 1975), le réalisateur des 400 coups écrira un texte très élogieux sur le film.