Fils d'agent SNCF, Jean-Jacques Annaud a, dès son plus jeune âge, le goût du voyage. Très tôt, il se passionne pour le 7e art, décrochant un BTS de technicien du cinéma à l'Ecole Vaugirard en 1962, avant d'obtenir le diplôme de l'Idhec en section réalisation. Auteur à 19 ans d'un premier court métrage, Les Sept péchés capitaux du cinéaste, il signe à partir de la fin des années 60 des centaines de spots publicitaires.

Amoureux de l'Afrique, où il fut envoyé comme coopérant pour son service militaire, Jean-Jacques Annaud y réalise son premier long métrage, produit par Jacques Perrin, La Victoire en chantant, une comédie corrosive sur le colonialisme. Ignoré en France, ce coup d'essai remporte l'Oscar du Meilleur film étranger en 1977, ce qui lui vaut de ressortir dans l'Hexagone sous le titre (traduit de l'anglais) Noirs et Blancs en couleurs. Dans son deuxième long métrage, Coup de tête, le cinéaste explore l'univers du football et de ses supporters. Porté par l'interprétation de Patrick Dewaere, le film est salué par la critique à sa sortie en 1978. Après ce portrait de la France contemporaine, le cinéaste ne cessera de voyager dans l'espace et dans le temps.

En 1981, Jean-Jacques Annaud réalise ainsi La Guerre du feu, une évocation de la vie des hommes préhistoriques. Ce pari très audacieux (il n'y a aucun dialogue) et couronné de succès (César du Meilleur film et du Meilleur réalisateur) marque le début d'une fructueuse collaboration avec le scénariste Gérard Brach, jusqu'à la mort de celui-ci en 2006. En 1986, il relève un autre défi : porter à l'écran le best-seller médiéval d'Umberto Eco Le Nom de la rose. Cette fois, c'est un César du Meilleur film... étranger qui viendra saluer cette ambitieuse coproduction internationale avec Sean Connery. Il s'attaquera en 1992 à un autre roman réputé inadaptable, en tournant L'Amant d'après Duras.

Epris d'aventure et de découvertes, Annaud crée une nouvelle fois la surprise en 1988 avec L'Ours, un film animalier qui séduit petits et grands (il reviendra à ce genre en 2004 avec Deux frères) et se lance en 1996 dans un moyen-métrage utilisant le procédé en relief IMAX 3D : Les Ailes du courage. Installé à Los Angeles depuis 1993, le cinéaste dirige Brad Pitt à l'occasion d'un nouveau film en forme de voyage, Sept ans au Tibet (1997), puis Jude Law dans le film de guerre Stalingrad (2001). Toujours aussi imprévisible, Annaud revisite la mythologie grecque dans Sa Majesté Minor, avec José Garcia et Vincent Cassel, une œuvre qui le voit revenir à une langue française qu'il avait abandonnée depuis près de 30 ans.

Quatre années plus tard, il réalise un film d'aventure tourné en Tunisie, Or Noir, dans lequel Tahar Rahim incarne un prince en pleine ascension face à la rivalité d'autres émirs arabes. Antonio Banderas, Freida Pinto et Mark Strong sont aussi de la partie. Appréciant tout particulièrement les tournages en compagnie des animaux, le réalisateur refait surface en 2015, avec Le Dernier Loup, un film franco-chinois mettant en scène un jeune étudiant de Chine qui apprend à cohabiter avec les loups, animal mythique de ce pays. Il poursuit en s'attaquant à la réalisation des dix épisodes de La Vérité sur l'affaire Harry Quebert, une série policière adaptée du roman du même nom de Joël Dicker.

En 2022, Jean-Jacques Annaud revient avec un projet ambitieux, Notre-Dame brule. Dotée d'un budget de 30 millions d'Euros, cette grosse production reconstitue heure par heure l'incendie ayant frappé le célèbre monument français, le 15 avril 2019.