Repéré à l'âge de 17 ans dans le court métrage d'Olivier Seror, Un Léger différend, Jérémie Elkaïm se voit offrir un rôle dans Scènes de lit de François Ozon. Trois ans plus tard, il incarne l'un des héros de Presque rien de Sébastien Lifshitz, centré sur la relation amoureuse intense entre deux garçons. Grâce à ce film salué par la critique et le public, l'acteur se fait peu à peu un nom.

En 2001, en tête d'affiche de la comédie Sexy boys, il joue aux côtés de Matthias Van Khache et Julien Baumgartner. Après ce rôle de garçon plutôt sage et rangé, il retrouve ce dernier dans A cause d'un garçon, drame une nouvelle fois centré sur l'homosexualité. Par la suite, il enchaine les rôles secondaires dans Mariées mais pas trop, Qui a tué Bambi ? ou encore L'Intouchable.

En 2009, sa compagne, l'actrice Valérie Donzelli, lui offre non pas un mais quatre rôles dans sa première réalisation La Reine des pommes. Cette comédie musicale pétillante permet au jeune acteur de se démultiplier et de montrer l'étendue de son registre. Même une fois séparé, ce couple n'en finit pas de travailler ensemble : en 2011, ils sont à l'affiche de Belleville Tokyo d'Elise Girard, avant de porter à l'écran leur propre histoire et celle du cancer de leur petit garçon dans La Guerre est déclarée.

Réalisé par Valérie Donzelli, ce film présenté en ouverture à la Semaine de la Critique à Cannes, consacre le duo de scénaristes qui remporte le Grand Prix au Festival du Film de Cabourg ainsi que le Prix du Jury et des Blogueurs au Festival Paris Cinéma. Au même moment, Jérémie Elkaïm est présent sur la Croisette avec le poignant Polisse, le nouveau film de Maïwenn, récompensé par le Prix du Jury. En 2012, c'est la comédie romantique Main dans la Main, qui permet au comédien de collaborer à nouveau avec son ex-femme, à l'occasion de l'écriture de cette oeuvre sur la fusion amoureuse, où la réalisatrice dirige son ami de toujours au côté de Valérie Lemercier.

Jérémie Elkaim se retrouve ensuite à l'affiche de Grand Départ, le premier long métrage de Nicolas Mercier où il interprète un jeune scénariste homosexuel qui se voit contraint de placer son père dans un établissement spécialisé après avoir appris sa maladie neuro-dégénérative. Il effectue également une apparition dans Opium, le nouveau film d'Arielle Dombasle qui met en scène l'histoire d'amour dramatique entre le poète Jean Cocteau et Raymond Radiguet au début du XXème siècle.

L'année 2015 s'avère être très riche pour l'acteur qui est à l'affiche d'Indésirables, où il interprète un accompagnant sexuel pour personnes handicapées. Puis, lui et Valérie Donzelli effectuent leur retour sur la Croisette pour y présenter en Compétition officielle, Marguerite et Julien, qu'ils ont tous deux adapté à partir d'un scénario inspiré de l'histoire vraie de la passion interdite à laquelle Marguerite et Julien de Ravalet se sont adonnés, et que Jean Gruault destinait à François Truffaut en 1973. L'acteur se glisse dans la peau de Julien tandis que la jeune perle du cinéma français, Anaïs Demoustier, prête ses traits à Marguerite.

Jérémie Elkaïm poursuit avec deux thrillers (Irréprochable et Dans la forêt) et deux comédies (Premières vacances et On ment toujours à ceux qu'on aime). En 2020, il met en scène son premier long métrage, Ils sont vivants, qui raconte l'histoire d'amour entre une veuve et un enseignant iranien arrivé clandestinement en Europe. Le personnage féminin principal est joué par quelqu'un qu'il connaît bien en la personne de Marina Foïs, tandis que le moins connu Seear Kohi (vu dans Homeland) lui donne la réplique.