D'origine Béninoise, Hubert Koundé débute au cinéma en 1993 avec Metisse de Mathieu Kassovitz. Les deux hommes se retrouvent à nouveau sur La Haine, récompensé en 1995 du César du meilleur film de l'année. Koundé enchaîne par la suite deux comédies : La Divine poursuite de Michel Deville et Restons groupés au côté d'Emma de Caunes.

Après avoir endossé le rôle d'un policier dans Simon le mage, il tourne en 2001 Le Prix du pardon du réalisateur sénégalais Mansour Sora Wade. Variant les projets mais somme toute assez rare au cinéma, on peut également le voir en 2005 au casting du film américain The Constant Gardener porté par Ralph Fiennes et Rachel Weisz.

C'est sur petit écran que Hubert Koundé est le plus actif. L'acteur incarne ainsi Etienne Anglade durant 13 épisodes de la série à succès Plus belle la vie, un inquiétant criminel dans les huit épisodes de Pigalle, la nuit et un redoutable gangster dans la deuxième saison de la série policière d'Olivier Marchal, Braquo.

En 2016, il rejoint la distribution de la comédie de Romain Levy Gangsterdam, dans laquelle il donne la réplique au très à la mode Kev Adams.