Café de Flore met en scène deux histoires d'amour à deux époques différentes, aux facettes à la fois distinctes et complémentaires. Celle, de nos jours, d'Antoine, un DJ fou d'amour pour sa compagne Rose, ne parvenant pas à faire le deuil de sa séparation d'avec Carole, son amour d'adolescent devenue la mère de ses enfants. Puis, celle située dans le Paris des années 60, narrant la relation indéfectible unissant Jacqueline à son fils de sept ans, Laurent, qui tombe sous le charme d'une camarade de classe, trisomique comme lui. Le metteur en scène Jean-Marc Vallée explique : "Ces deux récits s'emboîtent comme dans une partition émotionnelle". L'occasion pour lui de mettre en place un jeu de miroirs à travers le temps et l'espace.
Comme bien souvent chez le cinéaste Jean-Marc Vallée, tout a commencé avec une musique. Une mélodie entendue, puis écoutée et réécoutée, jusqu'à l'obsession. Pour Café de Flore, il s'agissait d'une musique composée en 2001 par Matthew Herbert à la demande du célèbre Café de Flore de Saint-Germain-des-Près. Parue sous le nom de Doctor Rockit, c'est la version électro de cette mélodie qui a éveillé chez le réalisateur ce tourbillon d'images à l'origine du long métrage. De cette façon, la chanson est devenue le fil conducteur du film.
Dénicher la personne à même d'interpréter le fils trisomique de Jacqueline (Vanessa Paradis) a été une recherche fastidieuse pour le metteur en scène Jean-Marc Vallée. C'est finalement par hasard qu'il a trouvé ce qu'il cherchait. Lors du casting pour Véronique, la jeune Alice Dubois, retenue pour le rôle, lui a lancé avant de partir : "J'ai un ami à l'école qui est trisomique lui aussi, il s'appelle Marin". Le réalisateur a alors aussitôt demandé à le rencontrer. Quelques jours plus tard, l'acteur Marin Gerrier intégrait le casting.
Tout au long du film, le cinéaste Jean-Marc Vallée s'est amusé à semer des indices permettant de suivre les personnages dans leur quête de vérité ou encore dans leurs errances, tout en intégrant une explication rationnelle au mystère. A plusieurs reprises dans le long-métrage, on voit par exemple Laurent, le jeune trisomique interprété par Marin Gerrier, écouter un vinyle qui n'est autre que la mélodie du Café de Flore composée en 2000. Or, il s'agit d'un anachronisme, le personnage et sa mère Jacqueline (Vanessa Paradis) évoluant dans le Paris des années 1960... Ce qui laisse supposer que l'enfant et sa mère ne seraient autre que le fruit de l'imagination de Carole, l'ex compagne d'Antoine, qui ne cesse, dans le Paris d'aujourd'hui, d'écouter cette même musique...
A contrecourant de l'image glamour que projette habituellement Vanessa Paradis dans ses rôles, l'actrice incarne, dans Café de Flore, une femme prête à tout, même avec le peu de moyens qu'elle possède, pour que son petit garçon trisomique ait une vie heureuse. Pour la comédienne, l'enjeu a été de rendre sympathique cette femme forte et déterminée, qui a fait le vide autour d'elle.
Comme dans son long-métrage C.R.A.Z.Y., le cinéaste Jean-Marc Vallée reprend à son compte la citation de Verlaine selon laquelle "la musique [passe] avant toute chose". Pour lui, la bande originale ne fait en aucun cas figure de simple accompagnement de l'action de ses personnages, mais s'intègre à la manière d'un protagoniste à part entière. Le mysticisme dont est emprunt le film repose en effet en grande partie sur l'utilisation des compositions de Pink Floyd et de Sigur Ros. Le réalisateur s'est en quelque sorte fait chef d'orchestre en tissant en parallèle de la trame narrative de Café de Flore une trame sonore de premier choix. Par ailleurs, la musique fait partie intégrante de la vie des personnages et agit de manière concrète sur leur existence.
Avec Café de Flore, Jean-Marc Vallée effectue un retour dans un registre plus intimiste, après son film historique Victoria : les jeunes années d'une reine. Un ton qui n'est pas sans rappeler celui de C.R.A.Z.Y., à la fois récit initiatique, fable mystique et hymne à la différence.
Pour la partie parisienne (années 1960) de Café de Flore, le metteur en scène a utilisé une caméra numérique de façon à pouvoir retravailler la teinte de l'image par la suite. En utilisant des images d'archives datant de 1962, l'idée a été de créer l'illusion d'une pellicule d'époque pour façonner une ville mi-réelle, mi-imaginée.