C'est à l'époque où il écrivait 3 Zéros en 2001, que les producteurs de Philippe Guillard lui ont demandé un scénario sur le rugby. Gérard Lanvin avait déjà donné son accord, mais les producteurs ont finalement quitté le projet et Le fils à Jo a bien failli ne jamais voir le jour. Le premier à relancer le film fut Olivier Marchal qui, séduit par le sujet, avait donné son accord pour le réaliser. C'est le producteur Cyril Colbeau-Justin qui a convaincu Guillard de diriger son film, avec la bénédiction de Marchal.
Bien avant le tournage, le metteur en scène a travaillé seul sur le storyboard pendant quinze jours, puis a préparé la pré-réalisation avec le chef opérateur, afin de se concentrer, une fois le tournage débuté, sur la direction d'acteur.
Une volonté a obsédé le travail du scénariste Philippe Guillard : "Surtout ne pas tenter de raconter cette histoire en l'intégrant dans le contexte du rugby de haut niveau. Sauf à avoir les moyens d'Oliver Stone pour "L'enfer du dimanche", c'était aller droit dans le mur. En choisissant de faire tourner les mômes, je me débarrassais de toute référence cinématographique, et je crédibilisais mon sujet".
Le réalisateur du Fils à Jo, Philippe Guillard est un ancien champion de rugby à XV et journaliste sportif. Il explique les rapports entre deux mondes apparemment opposés : "Rugby et cinéma sont deux sports collectifs. Deux genres d’aventure humaine où des gens s’embarquent sur un bateau partant au long cours. Chaque membre de l’équipe était compétent, il m’a juste fallu les faire jouer ensemble. Mon souci était que tout le monde soit heureux d’être là, que chacun ait la banane en arrivant le matin et en repartant le soir". Guillard, dit La Guille, a commencé dans le cinéma d'une façon paradoxale : en co-signant le scénario d'un film... sur le foot ! 3 Zéros. Il restera attaché à la comédie populaire en participant également à l'écriture de People Jet set 2 en 2004 et Camping en 2006.
Les jeunes Jérémie Duvall et Grace Hancock jouent leur première apparition à l'écran, et Philippe Guillard réalise son premier long-métrage.
C'est un ex-joueur du racing, Philippe Daubas, qui a entrainé le jeune Jérémie Duvall pour apprendre les gestes de base du rugby. Le jeune garçon, qui par ailleurs pratique le tennis, le tennis de table et le foot, n'avait jamais joué au rugby.
Gérard Lanvin était dans son élément avec Le fils à Jo : il a pratiqué dix ans le rugby, d'abord à Franconville dans le 95, et trois ans dans un club sponsorisé par Les Galeries Lafayette.
Olivier Marchal et l'acteur Vincent Moscato se retrouvent six ans après le tournage de 36 Quai des Orfèvres. Moscato avait également déjà tourné avec Gérard Lanvin dans A la petite semaine (2003).
Olivier Marchal et Gérard Lanvin étaient brouillés depuis 20 ans, depuis qu'un jour le second avait dit du premier que son scénario était "de la merde". Le tournage du Fils à Jo les a forcés à se côtoyer, et ils se sont très bien entendus. Au point qu'ils ont tourné ensemble Les Lyonnais, sortie en 2011.
L'actrice Karina Lombard parle parfaitement la langue française. Elle est née à Tahiti, puis a passé son enfance à Barcelone. Sa grand-mère, d'origine russe, a tenu à ce qu'elle reçoive une éducation française. Elle a la double nationalité franco-américaine.
Gérard Lanvin respecte sa parole donnée aux gens du métier. Dès la première moitié des années 2000, lorsqu'il avait reçu la visite de Philippe Guillard qui lui avait demandé de jouer dans un film sur le rugby, Lanvin avait accepté sur le principe. Malgré que le projet ait mis cinq ans à se faire, il a tenu sa promesse. De même en 2004, l'acteur avait promis de faire San Antonio avec Gérard Depardieu, et malgré un changement d'équipe de tournage complet peu avant le tournage, bouleversant la version du film, Lanvin est resté attaché au projet, parce qu'il se qualifie comme "un homme d'honneur".
Vincent Moscato, qui joue le rôle de Pompom est surtout un ancien international de rugby, aujourd'hui commentateur sportif à la radio et comédien, plus habitué aux rôles de brutes qu'aux hommes sensibles. Il se remémore des souvenirs de jeunesse lorsqu'on lui parle de son personnage : "A la première lecture, c’est vrai, il m’a rappelé quelques mecs qu’on rencontre parfois surtout dans les petits clubs. Ceux qui viennent couper les citrons pour la mi-temps, qui s’occupent de porter les ballons, de ramasser les maillots. Des types gentils, hommes à tout faire, toujours prêts à rendre service. Mon Pompon est un mélange de tous ces caractères."
Le choix du jeune garçon pour incarner le fils de Canavaro a nécessité plusieurs casting à Toulouse, Montpellier et à Paris. Quatre garçons avaient été sélectionné, et finalement, la directrice de casting a rappelé un cinquième, Jérémie Duvall, qui a obtenu le rôle car, selon le réalisateur : "j'ai ressenti que ce gamin se trimballait avec un passé, qu'il avait une épaisseur. Il riait, il pleurait. Il était beau. Il ressemblait à Lanvin. Il était celui que je cherchais".
Le film, tourné dans le Tarn dans le village d'origine de Vincent Moscato, a bénéficié d'une sortie avancée pour le Sud Ouest (le 29 décembre 2010), pour une sortie nationale le 12 janvier 2011.
Le Fils à Jo a reçu le Grand prix du 19e festival du film de Sarlat (Dordogne) désigné par le vote du public.
Laurent Olmedo (François, dans Le fils à Jo), avait joué un personnage nommé Jo dans Merci mon chien de Philippe Galland avec Yolande Moreau, tourné en 1998.
C'est entre les tournages de 3 Zéros et (2001) Camping (2006) que le réalisateur a contacté Gérard Lanvin, qui a rapidement accepté le rôle de Jo Canavaro.
C'est durant le tournage du Fils à Jo que le réalisateur Fred Cavayé est venu demander à Gérard Lanvin de jouer dans son film A bout portant, sorti lui aussi en 2010.