Pour le tournage d'Effroyables jardins, Jean Becker s'attache à reprendre ses comédiens fétiches depuis Les Enfants du marais (1998), comme Jacques Villeret, André Dussollier, et dans un rôle secondaire Suzanne Flon, mais aussi sa région (Rhône-Alpes), et les mêmes périodes de tournage.
Pour l'adaptation du livre de Michel Quint, trois scénaristes se sont succédé, c'est d'abord Sébastien Japrisot, l'auteur du roman L'Eté meurtrier (1983), qui commença le scénario, mais celui-ci, souffrant, ne put continuer. Puis Jean Cosmos, qui a notamment travaillé avec Bertrand Tavernier pour Capitaine Conan, en fit une première adaptation. Mais c'est Guillaume Laurant, à qui l'on doit Le Fabuleux destin d'Amélie Poulain (2000), qui termina la version finale du scénario, en modifiant dialogues et situations.
C'est le fils de Jean Becker, réalisateur de L'Eté meurtrier (1983), et d' Elisa (1994), Louis Becker, producteur d' Un indien dans la ville (1994), qui est le vrai initiateur du projet, en apportant le livre de Michel Quint à son père pour que celui-ci l'adapte au cinéma.
Impressionné par les musiques des films de Krzysztof Kieslowski, Jean Becker a demandé à Zbigniew Preisner qui avait déjà soigné la musique d'Elisa, de composer celle d'Effroyables jardins.
Dans les dialogues du film, Jean Cosmos , co-scénariste du film, avoue avoir rendu hommage à Jacques Becker , notamment lors du passage qui se déroule dans la fosse, en faisant référence au film Le Trou .
C'est lors du festival de Yokohama, au Japon, que Benoît Magimel le héros de La Pianiste (2000) et Jean Becker se sont rencontrés pour la première fois. Benoit Magimel avouant une certaine admiration pour l' oeuvre de Jacques Becker (le père de Jean), celui-ci est venu faire dédicacer une revue qui lui était consacrée.
Ce n'est pas une première rencontre entre Thierry Lhermitte et la famille Becker. Louis Becker, le producteur du film, et Thierry Lhermitte ont produit ensemble Un indien dans la ville (1994) et Le Prince du Pacifique (2000).