Avant L'Homme sans passé, Markku Peltola a joué sous la direction d'Aki Kaurismaki dans Au loin s'en vont les nuages (1996) et Juha (1999). C'est la première fois que Markku Peltola joue le rôle principal dans une fiction au cinéma.
Présenté en compétition officielle à Cannes en 2002, L'Homme sans passé a remporté le prix d'interprétation féminine, décerné à Kati Outinen, ainsi que le Grand Prix du jury.
Pour interpréter le rôle de la directrice de l'armée du salut qui finit par accompagner un orchestre, Aki Kaurismaki a choisi une chanteuse de variété célèbre en Finlande : Annikki Tähti.
L'Homme sans passé est le septième film que Kati Outinen a tourné sous la direction d'Aki Kaurismaki après Shadows in Paradise (1986), Hamlet Goes Business (1987), La Fille aux allumettes (1990), Tiens ton foulard, Tatiana (1994), Au loin s'en vont les nuages (1996) et Juha (1998).
Aki Kaurismaki a tenu à souligner que la chienne qui apparaît dans le film est issue d'une illustre famille de canins comédiens. La grand-mère, Laïka, aurait joué dans La Vie de boheme, tandis que la mère, Piitu, se serait distinguée dans Juha.
L'orchestre de l'armée du salut est composé d'un vrai groupe de musique : Marko Haavisto et Poutahaukat. Le chef du groupe, Marko Haavisto appartenait auparavant au groupe Badding Rockers dont certaines chansons apparaissent dans Au loin s'en vont les nuages et La Fille aux allumettes.