James Gandolfini débute sa carrière d'acteur au New York Theater en donnant la réplique à Jessica Lange et Alec Baldwin dans la pièce Un tramway nommé désir en 1992. Apparaissant aux côtés de Melanie Griffith dans le thriller Une étrangère parmi nous, il marque les esprits par sa prestation de tueur à gages, responsable de la défiguration de Patricia Arquette, dans True romance (1993) de Tony Scott. Dès lors, son physique imposant le prédestine aux personnages de brutes épaisses - il est le voisin violent de She's so Lovely, un homme de main mafieux dans La Jurée (1996), un pornographe sans scrupules dans 8mm - et d'officiers militaires n'hésitant pas à user de son autorité (Le Nouveau monde, USS Alabama, Le Dernier château, où il est confronté à Robert Redford, Miracle à Santa-Anna).
En 1999, James Gandolfini connaît un véritable tournant dans sa carrière en se voyant confier par le producteur David Chase le rôle de Tony Soprano, mafieux endurci... en pleine crise existentielle, dans la série culte Les Soprano. Décidé à casser son image de gros dur, le comédien affine ses compositions en jouant un porte-flingues homosexuel dans Le Mexicain (2001) et en faisant jeu égal avec Billy Bob Thornton dans The Barber : l'homme qui n'était pas là (id.) des frères Coen. Fidèle ami de John Travolta à qui il donne la réplique dans le polar Coeurs perdus, il s'essaie également à la comédie avec Famille à louer (2004) et au drame politique avec Les Fous du roi (2006).
Le 10 juin 2007, l'acteur voit s'arrêter les aventures de la famille Soprano avec la diffusion du dernier épisode de la série qui l'a fait connaître au grand public. James Gandolfini poursuit alors exclusivement sa carrière au cinéma et devient le général Miller, empêtré au milieu des politiciens délirants de la comédie britannique In the Loop, sortie en 2009. En maire de New York, il doit faire face la même année à la prise d'otage du métro 123 pour Pelham organisée par John Travolta dans le remake réalisé par Tony Scott. L'acteur est aussi recruté pour ses talents vocaux par Spike Jonze pour la voix de Carol de Max et les maximonstres (2009). L'année suivante, il décide d'aider Kristen Stewart dans Welcome to the Rileys, produit par Tony Scott et son frère Ridley. James Gandolfini apparaît ensuite dans Cogan : Killing Them Softly aux côtés de Brad Pitt, ainsi que dans Zero Dark Thirty où il incarne le Directeur de la CIA.
Il joue son propre rôle en 2013 dans Elaine Stritch : Shoot Me, premier long métrage de Chiemi Karasawa, et apparaît dans le déjanté The Incredible Burt Wonderstone, face aux deux trublions de la comédie US, Steve Carell et Jim Carrey.
Pour son avant-dernier rôle au cinéma, l’acteur - habitué à jouer les gros durs - se confronte à un tout autre registre : celui de la comédie romantique. Dans All About Albert, il tient le rôle-titre d’Albert, un compagnon imparfait mais affectueux, qui ignore que son ex-femme dresse derrière son dos, la liste de ses défauts à sa nouvelle copine. Sa dernière contribution au cinéma sera son rôle du cousin Marv dans le mordant Animal Rescue du Belge Michaël R. Roskam.
James Gandolfini décède le 19 juin 2013 d’une crise cardiaque en Italie. Il était âgé de 51 ans.