Papa Was Not a Rolling Stone est une adaptation du roman du même nom de Sylvie Ohayon paru en 2011. L'auteure a choisi de réaliser le long métrage elle-même (c'est sa première réalisation). Pour ce faire, elle a coécrit le script avec Sylvie Verheyde.
Sylvie Ohayon a eu une démarche autobiographique en écrivant et en portant à l'écran Papa Was Not a Rolling Stone.
Si la notoriété des Rolling Stones n'est plus à faire, le père de Stéphanie (et donc de Sylvie Ohayon), lui, n'est pas aussi connu que les papys rockeurs, puisqu'elle ne l'a jamais rencontré. D'où le titre Papa Was Not a Rolling Stone, qui fut par ailleurs conseillé à la réalisatrice par un ami. Il s'agit également d'une référence indirecte à la chanson "Papa was a rolling stones", du groupe de musique soul The Temptations.
Le producteur Michaël Gentile en est à sa troisième adaptation de roman. Avant Papa Was Not a Rolling Stone, il porta à l'écran L'Amour dure trois ans (2012) de Frédéric Beigbeder et Syngué Sabour - pierre de patience (2013) d'Atiq Rahimi.
La jeune Doria Achour qui incarne Stéphanie est entourée de grands habitués du cinéma, tels que Aure Atika, Marc Lavoine ou encore Sylvie Testud. Pour le reste du casting, des jeunes premiers ont été castés à "la sauvage", c'est-à-dire qu'ils ont été approchés au détour d'une rue. "Je souhaite former une troupe de jeunes talents, des révélations de la rue, me nourrir de leur fraîcheur, de leur gouaille, trouver en eux l’écho de ceux que nous étions il y a vingt ans", précise la réalisatrice.
Le tournage de Papa Was Not a Rolling Stone a débuté en octobre 2013 et a duré huit semaines à la Courneuve et à Paris.
Jean-Jacques Goldman, l'idole de Sylvie Ohayon, fait une apparition dans Papa Was Not a Rolling Stone. Il y interprète "Envole-moi" en guitare-voix. Le spectateur aurait également pu l'entendre en voix-off, mais la séquence fut supprimée au montage.
Le chorégraphe Kamel Ouali, qui a déjà dansé avec Sylvie Ohayon il y a quelques années, fait une apparition dans Papa Was Not a Rolling Stone. Sa présence au casting était une évidence : "On m’a proposé des acteurs très connus, mais je ne voulais pas. J’ai préféré travailler avec des gens qui savent ce qu’est La Courneuve. La danse nous aidait à laisser tous nos problèmes aux vestiaires. Nous avions chacun d’entre nous un quotidien compliqué à porter", explique la réalisatrice.