Le personnage du philosophe remonte aux conférences de Charles Pépin, au MK2 Odéon, que Charles Guérin Surville filmait depuis des années. Ce dernier se rappelle : "Nous avions même sorti un coffret DVD ! Ses improvisations existentialistes me rappelaient les One Man Show de Alvy Singer dans Annie Hall ! Pour Jimmy le pianiste, cela vint de la participation de Jacky Terrasson à Mae West, moyen métrage adapté d’un roman de Dan Fante. Je me demandais quels acteurs feraient Charles Pépin et Jacky Terrasson Pourraient-ils tenir tête à Joaquin Phoenix qui joue un philosophe alcoolique dans L’homme irrationnel, ou Sean Penn un guitariste prodige dans Accords et Désaccords, les films de Woody Allen ? Ma réponse a posteriori est oui, mais je ne sais pas si je suis objectif..."
L'idée du film est venue à Charles Guérin Surville au bord d’une piscine, à Los Angeles. L’actrice Paz de la Huerta l'avait embauché comme chauffeur, assistant, répétiteur pour son rôle dans Songes d’une Nuit d’été avec Ted Levine. Le réalisateur se rappelle : "Un moment, Paz m’a regardé droit dans les yeux : « You, you are sincere. I know that ! ». Elle était sérieuse. Je ne savais pas ce qu’elle voulait dire exactement. Mais c’est de là qu’est venue l’idée du film."
La première difficulté pour Charles Guérin Surville a été de réunir son équipe de New-York, Helsinki, Toulon, Paris, en plein été. Le metteur en scène raconte : "Un peu comme dans une production internationale. Le premier soir, avant le coucher du soleil, nous arrivâmes tous fatigués. Mikaël Lubtchansky fit un essai caméra. C’est une des premières scènes du film..."
Dans La Nuit Américaine, François Truffaut raconte les difficultés de faire un film en se mettant en scène. Dans La Sincérité, les difficultés ont surgi pour de vrai pendant le tournage, pour la plupart inattendues. Charles Guérin Surville précise : "Par exemple, chaque matin, je me réveillais avec de nouvelles piqûres de bestioles. On aurait dit une irruption cutanée de mon personnage suite à des désagréments amoureux! Certains réalisateurs interdisent le maquillage. Dans notre cas, chacun était responsable de sa garde robe, de son image. L’absence de maquilleuse, en plus d’augmenter notre rapidité, permit d’oublier la caméra pour vivre nos personnages. Ceci dit, Jeanne Damas lançait sa propre marque, Rouje, et Isabel Marant nous prêta 13 pièces qui furent d’une immense aide. Le plus dur fût de les récupérer après le tournage !"