Rachid Bouchareb avait déjà tourné avec Roschdy Zem dans le téléfilm L'Honneur de ma famille (1997).
Little Senegal est le premier grand rôle au cinéma français de Sotigui Kouyaté, acteur fétiche depuis 1975 du metteur en scène de théâtre Peter Brook. Il joua notamment dans Le Mahabharata qui tourna en France quatre années durant avant de devenir un film en 1989.
Lors de la réalisation de son film Bâton Rouge (1985) aux Etats-Unis, Rachid Bouchareb a eu l'occasion de rencontrer et de se faire des amis dans les communautés africaine et afro-américaine qui vivaient relativement séparées. Surpris par le racisme que les Noirs américains nourrissaient à l'égard des Africains, il décida avec son scénariste Olivier Lorelle d'en faire le sujet d'un prochain film. Mais il dut attendre car l'immigration africaine était à l'époque trop faible pour nourrir son scénario. Le quartier de Little Senegal qui n'existait pas encore est aujourd'hui en pleine expansion.
Little Sénégal est le troisième opus du tandem Rachid Bouchareb-Jean Bréhat, après Cheb (1991) et Poussières de vie (1994). Il a également travaillé avec Bourlem Guerdjou (Vivre au paradis, 1997) et Ziad Doueiri (West Beyrouth, 1998).
"Je me suis interrogé sur les relations qui pouvaient exister entre l'Afro-américain et l'Africain, deux siècles après la déportation par les Européens de millions d'Africains vers l'Amérique. Que se passe-t-il lorsqu'un Africain, deux cents ans après, vient dire à un Afro-américain : "j'ai fait de longues recherches et je vous ai retrouvé, nous sommes de la même famille, nous avons la même terre, les mêmes racines".