Ce natif de Brooklyn fait ses premières armes à New York dans la comédie de stand-up. Au début des années 80, il apporte son talent d'interprète et de scénariste sur Fridays, une émission comique du network ABC. A l'arrêt du show, il marque un arrêt parmi la troupe du célèbre Saturday Night Live de NBC durant la saison 1984-1985. Sans grand succès. Larry David parvient à percer sur le petit écran grâce à sa collaboration avec Jerry Seinfeld, qui donne naissance en 1990 à la comédie Seinfeld. La série rencontre un énorme succès sur HBO et permet à Jerry Seinfeld et ses partenaires d'accéder au rang de stars. Créateur, scénariste, producteur, showrunner, Larry David est le principal maître d'oeuvre du show, garant de la qualité du programme. A l'issue de la 7ème saison, David décide de se retirer, laissant les commandes à son associé, Jerry Seinfeld pour les deux dernières saisons.
En dépit de quelques seconds rôles dans des films comme Radio Days ou New York Stories, Larry David ne parvient pas à trouver un rôle à sa mesure. La comédie Sour Grapes qu'il réalise en 1998 est boudée par le public et la critique. Et comme on n'est jamais mieux servi que par soi-même, il produit en 1999 son propre show, Larry et son nombril, dans lequel il tient son propre rôle. Programmée sur HBO, la série lui permet de renouer avec le succès. Récompensé par ses pairs, l'auteur n'hésite pas à se mettre en scène dans des situations embarrassantes face à un véritable défilé de stars (Ben Stiller, Mel Brooks, Martin Scorsese, Ted Danson, ou encore les comédiens de Seinfeld, Julia Louis-Dreyfus et Jason Alexander). En 2008, Woody Allen mise sur lui pour donner la réplique à Evan Rachel Wood dans son long métrage Whatever Works, sur un excentrique new-yorkais qui décide de partir à l'aventure. Les deux hommes avaient déjà collaboré quelques années plus tôt sur Radio Days.