Issu d'une famille d'acteurs, il abandonne ses études au lycée, pour se lancer dans la comédie. Il connaît son premier succès grâce à la série TV Welcome Back, Kotter (de 1975 à 1979). Son rôle de lycéen décontracté (Vinnie Barbarino), va le suivre jusqu'au début de sa carrière au cinéma dans des films tels Carrie au bal du diable (Brian De Palma, 1976), Grease (adapté de Broadway, 1978), et, dans une mesure plus sérieuse, La Fievre du samedi soir (1977), dans lequel il surfe sur la vague disco en interprétant le rôle du danseur/étudiant Tony Manero, qui lui vaudra une première nomination à l'Oscar.

La suite de sa carrière est chaotique et parsemée d'échecs retentissants contrastants singulièrement avec ses précédents succès : Blow out (Brian De Palma, 1981), dans lequel il est Jack, technicien du son détenant la preuve d'un meurtre, Staying Alive (1983), une vaine tentative de renouer avec le triomphe de La Fievre du samedi soir, ou Second Chance (1983), pour lequel il retrouve sa partenaire de Grease, Olivia Newton-John.

Il effectue un semblant de comeback grâce à Allo maman ici bébé, succès surprise de l'année 1989, une comédie romantique pour laquelle il interprète le chauffeur de taxi au bon coeur James Ubriaco. Son vrai retour (la suite d'Allo maman ici bébé, Allo maman c'est encore moi en 1993 est un échec), il le fait dans le Pulp Fiction de Quentin Tarantino, où son rôle de gangster Vincent Vega lui permet d'obtenir une autre citation à l'Oscar en 1994.

Depuis, il a reprit plusieurs fois des rôles de méchants, notamment dans des films d'actions comme Volte-face (1997), et Broken Arrow (1996) de John Woo, ou Opération Espadon, en 2001. Il s'attaque également à la science-fiction dans Terre, champ de bataille (2000), tout en ajoutant à son palmarès une dimension dramatique grâce à Phenomene (1996), ou Prejudice (1998). En 2001, il est à l'affiche du thriller L'Intrus, avant de partir à la recherche d'un ranger de l'armée américaine dans le drame Basic (2001), de John McTiernan. En 2003, il tourne pour la première fois dans l'adaptation d'un comic, The Punisher, dans lequel il incarne Howard Saint, un homme d'affaire véreux et sadique qui est l'ennemi juré du Punisher.

En 2004 il tient le rôle d'un capitaine des pompiers aux côtés de Joaquin Phoenix dans Piège de feu. Puis on le retrouve dans Be Cool accompagné d'Uma Thurman. Et c'est les cheveux gris qu'il donne la réplique à Scarlett Johansson dans Love Song en 2006. Il travaille ensuite avec Todd Robinson dans Coeurs perdus où il enfile l'imper et le chapeau de l'inspecteur Elmer C. Robinson lancé aux trousses d'un couple séduisant mais mortel interprété par Jared Leto et Salma Hayek. La même année, John Travolta part pour un road trip à moto (Bande de sauvages), puis se grime en femme et pousse la chansonnette dans Hairspray, dont le succès relance (une nouvelle fois) l'acteur.

Après avoir donné de la voix en chien héroïque issu des studios Disney(Volt, star malgré lui), il devient preneur d'otages dans un train en 2009, et mène L'Attaque du métro 123 face à Denzel Washington, et sous la direction de Tony Scott.