Johnny Cash et June Carter avaient respectivement choisi les comédiens Joaquin Phoenix et Reese Witherspoon pour les incarner à l'écran. Malheureusement, ils ne purent voir le résultat final. Le chanteur-guitariste décéda en effet le 12 septembre 2003 à la suite de complications dues au diabète, tandis que sa compagne trouva la mort le 15 mai de la même année à cause de problèmes cardiaques.
Joaquin Phoenix et Reese Witherspoon ont interprété eux-mêmes les chansons du film. Le comédien, qui prête ses traits à Johnny Cash, a d'ailleurs appris à jouer de la guitare pour ce rôle. Pour cela, les deux acteurs ont subi un "camp d'entraînement intensif au rock'n roll" qui incluait des leçons de musique, des temps individuels d'exercice et de répétition, des temps de travail en groupe avec orchestre, et des sessions d'enregistrement. Le réalisateur explique:"Les acteurs qui n'étaient pas musiciens le sont devenus, et les musiciens sont devenus des acteurs, chacun ayant l'avantage d'être soutenu et encouragé par les autres".
Le réalisateur a fait appel au producteur de musique T-Bone Burnett pour la bande originale de son film. Ce dernier est né à Saint Louis, Missouri, berceau du blues et du rock. Lauréat d'un Grammy et nominé aux Oscars, T-Bone Burnett est notamment un spécialiste de la country qui a travaillé avec Ethan Coen sur O'Brother et The Big Lebowski , ou encore des films comme Retour à Cold Mountain et Don't come knocking.
Le style visuel du film part d'une minutieuse reconstitution des décors, costumes et accessoires de l'époque filmée. Les concerts constituent une partie importante du film. Pour ceux-ci, le directeur de la photographie Phedon Papamichael a principalement tourné (en super 35) caméra à l'épaule avec un grand souci de simplicité: "J'ai tout de suite remarqué qu'il n'y avait ni lumière ni paillettes dans ses prestations, elles étaient très basiques et brutes, avec une mise en lumière scénique très primitive. Je voulais garder cette sensibilité. Je ne voulais pas faire de ce film une biographie épique glamour. Ma plus grande préoccupation sur le plan visuel a été de conserver la pureté et la réalité". De son côté, le chef décorateur David Bomba a dû créer 90 décors différents pour le film, visitant pour cela plusieurs des anciens domiciles de Johnny Cash, dont la maison de son enfance à Dyess, dans l'Arkansas, et la "roundhouse" de Hendersonville, dans le Tennesse. Il observe: "C'était impressionnant de pouvoir visiter les lieux où il a vécu et à partir de là, d'en tirer le plus possible du caractère réel de sa vie. Nous avons voulu notamment souligner le contraste entre ses deux vies, l'une qui était près de la terre et de la nature dans l'Arkansas et le Tennesse, et l'autre dans cet univers de musique rock électrique, qui bouge à cent à l'heure". Enfin la chef costumière Arianne Phillips, qui fut notamment styliste pour Madonna, Courtney Love et Lenny Kravitz, s'occupa de la garde-robe de Joaquin Phoenix, qui change 56 fois de costume dans le film. Pour la préparation du film elle a eu accès à de nombreux souvenirs de famille des Cash, et a mené ses propres recherches, avec l'aide des fans du chanteur et de collectionneurs. Elle confie que la garde-robe de "L'homme en Noir" est restée très actuelle : "Il est vraiment étonnant de voir combien ses vêtements sont toujours tendance aujourd'hui. Même si tout vient authentiquement des années 50 et 60, ces vêtements nous parlent encore, ils ne donnent pas l'impression d'être datés. C'est la marque d'un grand style".
La productrice du film Cathy Konrad collabore depuis de longues années avec le metteur en scène James Mangold. Elle est ainsi la productrice des précédents films du metteur en scène depuis son second film Copland, suivi d' Une vie volée, Kate & Leopold ou encore le thriller Identity. Par ailleurs, Cathy Konrad encourage l'émergence de jeunes talents en produisant les films de réalisateurs débutants. Elle a ainsi aidé aux premiers pas de Larry Clark avec Kids et Alexander Payne avec Citizen Ruth. On lui doit aussi la production de Wide Awake de M. Night Shyamalan ou Mrs. Tingle de Kevin Williamson.
Les producteurs mirent quatre ans pour acquérir les droits de cette histoire et quatre autres années pour développer le film, avec ou sans l'accord des studios Columbia Pictures qui se désengagèrent finalement du projet.
Le film a été projeté aux détenus de Folsom Prison, trente-huit ans après la venue de Johnny Cash au pénitencier pour son mythique concert du 13 janvier 1968, devant 2000 détenus.
La plupart des personnages historiques du film sont interprétés par des stars de la chanson américaines, chanteurs de rock ou de country, qui trouvent souvent pour la première fois leur emploi au cinéma. Ainsi Elvis Presley est incarné par Tyler Hilton, 21 ans. Waylon Payne, 31 ans, joue Jerry Lee Lewis, tandis que Roy Orbison est interprété à l'écran par Johnathan Rice, chanteur-compositeur d'origine anglaise.
Pour incarner à l'écran Carrie Cash, la mère du chanteur, le réalisateur a choisi l'artiste rock et country Shelby Lynne , qui fait ici ses débuts au cinéma. Elle a grandi en écoutant les chansons de Johnny Cash. Elle-même a composé une chanson le jour de la mort du chanteur, Johnny meet June. L'actrice-chanteuse explique : "J'ai été une fan toute ma vie, non seulement de sa musique, mais de Johnny en tant que figure, que repère. C'est quelqu'un qui a eu de gros problèmes dans sa vie mais qui a toujours inspiré les autres".
Pour apporter le maximum d'authenticité à cette histoire, James Mangold s'appuya sur deux livres écrits de la main même de Johnny Cash : The Man in black et Cash : an autobiography. Mangold et sa productrice ont passé beaucoup de temps avec les vrais June Carter et Johnny Cash afin de tourner un film qui leur soit le plus fidèle possible.
Les deux comédiens principaux se sont sentis personnellement impliqués dans leurs rôles, au point de ne plus bien savoir où s'arrêter. "Nous avons vécu des choses difficiles ensemble, parce que nous savions qu'il fallait prendre le bon des personnages comme le mauvais", explique Joaquin Phoenix, qui entra en clinique à la fin du tournage, marqué par les similitudes entre sa propre vie et celle de Cash (tout comme Johnny, il a perdu un frère, River, mort d'une overdose).
Le tournage se déroula du 28 juin au 3 septembre 2004.