Jeremy Davies fait ses premières armes de comédien à la télévision dans des séries comme Melrose Place et Les Années coup de coeur. En 1992, il débute au cinéma en apparaissant aux côtés de Drew Barrymore dans Le Démon des armes. Il tient ensuite le rôle vedette de Spanking the monkey (1994), qui lui vaut l'Independent Spirit Award du Meilleur Espoir.

Après avoir enchaîné de courtes apparitions dans Nell (id.) de Michael Apted et Twister (1996) de Jan de Bont, il interprète un jeune soldat confronté à la lâcheté dans Il faut sauver le soldat Ryan (1998). Sa prestation est unanimement saluée par la critique et le public. Dès lors, Jeremy Davies, acteur au physique un peu frêle, se voit souvent cantonné dans des rôles de benêts. Il incarne ainsi un handicapé mental dans The Million Dollar Hotel (2000) et un amant désespéré dans Il suffit d'une nuit (2000).

En 2001, il s'éloigne des personnages d'homme simplet pour jouer les apprentis cinéastes dans CQ, une comédie psychédélique de Roman Coppola, et donner la réplique à George Clooney dans Solaris de Steven Soderbergh. Remarqué par Lars von Trier, il s'illustre également dans les deux premiers volets - Dogville (2003) et Manderlay (2004) - de sa trilogie consacrée aux Etats-Unis.