Né de parents algériens qui s'installèrent en France après le guerre, Rachid Bouchareb grandit à Bobigny, où il passe un CAP de mécanicien. Désireux de se lancer dans le cinéma, il intègre le Centre d'Etude et de Recherche de l'Image et du Son. Assistant puis réalisateur de films pour la télévision (SFP, TF1, Antenne 2) de 1977 à 1984, il tourne aussi des courts métrages, dont Peut-être la mer, sélectionné à Cannes en 1983.

Deux ans plus tard, il réalise son premier long, Baton Rouge, autour de trois amis qui décident de s'exiler aux Etats-Unis pour trouver du travail. Rachid Bouchareb, qui continue à travailler pour le petit écran (Les Années Déchirées sur le désarroi de deux anciens du FLN), s'intéresse au sort d'un jeune beur expulsé de France dans Cheb (1991) et connaît un joli succès d'estime avec son troisième opus, Poussières de vie (nommé à l'Oscar du Meilleur film étranger en 1996), l'histoire de Son, fils d'un officier noir américain et d'une Vietnamienne. Avec son associé Jean Bréhat, il crée les sociétés 3B Production en 1989 et Tadrat Films en 1997, qui financent des films français (notamment ceux de Bruno Dumont) mais pas seulement (Kolonel Bunker, Gardien de buffles).

Rachid Bouchareb fait son retour derrière la caméra en 2001 en signant une nouvelle réflexion sur l'identité et la quête des racines, le très remarqué Little Senegal, dans lequel Sotigui Kouyate part en Amérique à la recherche des descendants de ses ancêtres esclaves. Mais la consécration viendra avec Indigènes, film de guerre qui met à l'honneur les soldats africains oubliés de l'armée française en 2006. Le film fait l'évenement à Cannes, où Jamel Debbouze, Roschdy Zem, Sami Bouajila, Samy Naceri et Bernard Blancan, reçoivent un Prix d'interprétation collectif. Avant de s'atteler à la suite de cette fresque historique, il tourne dans des conditions plus modestes London River, plaidoyer pour le dialogue entre les cultures dans le monde de l'après-11 septembre. Présenté à Berlin, le film vaut à Sotigui Kouyate le Prix d'interprétation masculine.

Après Indigènes, le réalisateur d'origine algérienne entame en 2010 une nouvelle étape dans son travail de mémoire sur les relations entre la France et l'Afrique du Nord avec Hors-la-loi, centré cette fois-ci sur la guerre d'Algérie. Rachid Bouchareb retrouve à cette occasion la plupart des acteurs du casting d'Indigènes. Présenté en compétition au Festival de Cannes, le film ne manque pas de créer la polémique en commençant son récit par le massacre de Sétif de 1945. Quatre ans plus tard, le cinéaste livre La Voie de l'ennemi, un drame sur fond de vengeance pour lequel il fait appel à deux monstres sacrés du cinéma américain : Forest Whitaker et Harvey Keitel. Le natif de Paris change radicalement de registre pour son nouveau film, la comédie policière Le Flic de Belleville (2018), avec Omar Sy et Luis Guzmán.

En 2022, Rachid Bouchareb revient au drame avec Nos frangins, qui revient sur l'affaire Malik Oussekine,

survenue en décembre 1986. Pour l'occasion, le metteur en scène s'entoure des comédiens Reda Kateb, Lyna Khoudri, Raphaël Personnaz et Samir Guesmi.