Ayant grandi dans les rues les plus malfamées de Harlem, à New York, Ving Rhames a fait des rôles de méchants et autres durs à cuire sa spécialité. Et contrairement aux apparences, sa carrière englobe aussi bien le cinéma, que la télévision et le théâtre.Très jeune, Rhames est dirigé vers l'art dramatique pour ses qualités d'élocution. Ainsi, il joue dans plusieurs pièces.
Il auditionne et réussit à entrer dans la très prestigieuse High School For The Performing Arts de New York, qui lui fera découvrir son amour pour la comédie, avant de recevoir une bourse d'études pour partir étudier le théâtre classique à l'école d'arts dramatiques de Juilliard. Il débute véritablement sa carrière à la télévision, puis à Broadway aux cotés de Matt Dillon dans la pièce The Winter Boys.
On le voit sur le grand écran pour la première fois en 1986 dans Native Son de Jerrold Freedman. Suivent quelques rôles importants et remarqués comme dans la saga sur la guerre du Vietnam de Brian De Palma, Outrages, dans lequel il est le lieutenant Reilly, et donne la réplique à Michael J. Fox et Sean Penn. En 1993, il retrouve Matt Dillon pour Le Saint de Manhattan.
Mais c'est véritablement en 1994 que viennent la reconnaissance et la gloire, avec Pulp Fiction de Quentin Tarantino. Il y interprète le gangster Marsellus Wallace. Par la suite il sera de nouveau un méchant dans Les Ailes de l'enfer avec Nicolas Cage (1997), puis hacker dans la lucrative saga emmenée par l'infatigable Tom Cruise : Mission: impossible (1996), M: I - 2 (2000) et M : i : III (2006).
Sa filmographie regorge en seconds rôles dans des films réalisés par des metteurs en scène incontournables, tels Steven Soderbergh avec Hors d'atteinte en 1997, Martin Scorsese avec A tombeau ouvert en 2000, Walter Hill avec Un Seul deviendra invincible en 2002, Ron Shelton avec Dark Blue en 2003, etc. Souvent, il s'agit de films mélangeant les genres policier et dramatique.
Après s'être à nouveau essayé, en 2004, à l'horreur avec l'excellent film de zombies L'Armée des morts, la carrière du comédien se cible sur des films moins connus, ne sortant pas systématiquement dans les salles obscures... Ving Rhames les enchaîne avec une cadence impressionnante. Il renoue aussi avec ses bonnes vieilles habitudes en s'affichant à nouveau aux côtés de Bruce Willis dans Clones en 2009.
L'année suivante, Ving Rhames revient au film d'horreur avec Piranha 3D d'Alexandre Aja, où il prête ses traits à un lieutenant de police bien décidé à faire son maximum pour amoindrir le carnage de ces redoutables créatures venues des profondeurs... Privilégiant les DTV, l'acteur est à l'affiche de La rivière du crime, Death Race: Inferno, 7 Below, Force of Execution, Jamesy Boy ou Con Man.
Parallèlement, le natif d'Harlem reprend son personnage de Luther Stickell dans Mission impossible : Protocole Fantôme, Mission impossible : Rogue Nation, Mission impossible : Fallout, Mission impossible 7 et Mission impossible 8. Il s'offre même un caméo dans Les Gardiens de la Galaxie Vol. 2.