Le metteur en scène du Diable dans la peau, Gilles Martinerie, raconte que son film a pour origine le souvenir d'un enfant trempé par la pluie, qu'il avait vu un jour dans une rue de Paris : "L'image d’un enfant baigné par la pluie un jour d’orage à Paris en plein été. La détresse qui marquait ce beau visage d’enfant m’a poursuivi plusieurs jours. J’ai commencé à écrire à partir du souvenir de ce visage : d’où venait cet enfant ? Vers quoi allait-il ? Pourquoi cette apparence de tristesse ? Tout Le Diable dans la peau était là, dans ce visage grave mais pourtant lumineux", explique-t-il, en précisant : "J’ai ensuite rajouté le personnage du petit frère à cette histoire, à l’origine très citadine. J’ai dû ensuite leur imaginer un espace de liberté leur permettant de conjurer la brutalité de leur existence. Cette délivrance ne pouvait être liée qu’à la nature. J’ai donc transposé le récit à la campagne, et l’ai complété de quelques séquences écrites pour des projets précédents, comme celles liées au cerf-volant."
Le Diable de la peau est le premier film de Gilles Martinerie, qui a, auparavant, travaillé avec beaucoup de réalisateurs issus de la Fémis, comme Manuel Pradal, Pascale Ferran ou Pierre Trividic.
Dans le film, le paysage est un véritable personnage du film, puisqu'il incarne la nature : "La nature comme mère universelle, expression d’une énergie primordiale, une nature très féminine, très douce, généreuse, réconciliatrice", indique Gilles Martinerie. C'est le lieu dans lequel les deux frères peuvent trouver un semblant de liberté, et échapper à leur sombre quotidien.
Si le jeune acteur Quentin Grosset, qui interprète Xavier, a été repéré près d'un an et demi avant le commencement du tournage, Paul François, qui tient le rôle de Jacques, son frère cadet, a été découvert beaucoup plus tard (seulement quelques semaines avant le début de la réalisation lors d'un casting sauvage).
Malgré l'obtention de l'avance sur recette pour le film, et une aide régionale, le projet a été assez long et laborieux à monter, repoussé plusieurs fois, avant d'être enfin réalisé. Ces multiples reports sont d'ailleurs à l'origine du casting tardif de Paul François, qui a dû remplacer un autre jeune comédien (à l'origine choisi pour interpréter le plus jeune frère, mais devenu trop vieux pour le rôle).
Le cinéaste Gilles Martinerie confie, pour Le Diable dans la peau, avoir été inspiré par le cinéma qui traite de l'enfance et de l'adolescence, comme Zéro de conduite de Jean Vigo (1933).
C'est Carlo Crivelli qui a composé la musique du film. Il a déjà beaucoup travaillé pour le cinéma, et a notamment créé des musiques pour les films des frères Taviani.