Alors qu'il poursuit des études à Long Island, Kevin James, pour briser la monotonie des vacances d'été, participe avec des amis à une pièce de théâtre comique. Enthousiasmé par les réactions de la foule, il se joint à son frère, Gary Valentine, et se produit avec lui dans les clubs de Long Island, se découvrant au passage un vrai talent pour la comédie. Il rencontre l'acteur Ray Romano et apparaît dans plusieurs shows télévisés, notamment le Tonight Show with Jay Leno.
En 1996, il obtient alors un rôle récurrent dans la série Tout le monde aime Raymond où son ami Ray Romano joue le personnage principal. En 1998, James est aux commandes de sa propre sitcom, Un Gars du Queens. Il s'ouvre les portes du cinéma en 2004 avec un petit rôle dans la comédie romantique Amour et amnésie de Peter Segal. Mais la donne change radicalement avec le gros succès de Hitch, où il joue un homme timide, coaché par l'expert en séduction Will Smith. Le film rapporte plus de 179 millions de dollars aux États-Unis et permet à James de se faire un nom à Hollywood.
Il prête ensuite sa voix à deux dessins animés, Monster House (2006) et La Ferme en folie (id.), puis interprète un premier rôle de choix dans Quand Chuck rencontre Larry (2007), où il est le partenaire d'Adam Sandler. Ils se retrouvent en 2010 dans Copains pour toujours, aux côtés de Chris Rock et Salma Hayek. L'acteur est ensuite le gardien d'un zoo très spécial dans Zookeeper avant de doubler l'inquiétant Frankenstein dans Hôtel Transylvanie (2013).