Né d'un père américain et d'une mère anglaise, Paul Rudd obtient un diplôme de théâtre de l'Université du Kansas avant d'étudier à Los Angeles au sein de l'American Academy of Dramatic Arts/West. Après avoir beaucoup joué sur scène, il se révèle au grand public en 1993 dans la série télévisée Les Soeurs Reed, où il tient un rôle récurrent.

C'est en 1995 que Paul Rudd débute véritablement sur grand écran. Des débuts variés, puisqu'il apparaît successivement dans le film d'horreur Halloween 6 et la comédie Clueless, avant de jouer dans le Romeo + Juliette de Baz Luhrmann, aux côtés de Leonardo DiCaprio et Claire Danes. En 1998, il décroche son premier grand rôle avec la romance L'Objet de mon affection, où il donne la réplique à Jennifer Aniston, et tourne ensuite sous la direction de Lasse Hallström dans L'Oeuvre de Dieu, la part du diable.

A partir de 2001, Paul Rudd se spécialise dans la comédie. Bien connu des fans de la série Friends, où il campe Mike, le mari de Phoebe, il est également au casting du carton La Nuit au musée et appartient à la "famille" du réalisateur/scénariste/producteur Judd Apatow. Il apparaît ainsi dans Présentateur vedette : la légende de Ron Burgundy (2004), 40 ans, toujours puceau (2005), En cloque, mode d'emploi (2007), Sans Sarah rien ne va ! (2008) ou encore I Love You, Man (2009) et L'An 1 (id.). La même année, il est à l'affiche de la comédie Les Grands frères, film dont il co-signe le scénario.

Après s'être essayé au doublage avec le film d'animation Monstres contre Aliens (2009), Paul Rudd reprend le rôle de Thierry Lhermitte dans le remake américain du Dîner de cons (The Dinner), et campe l'année suivante le fils de Jack Nicholson dans Comment savoir, une énième comédie romantique venant compléter son riche palmarès. En 2012, plus que jamais fidèle au genre comique et à ses metteurs en scènes familiers, le comédien retrouve le réalisateur David Wain pour Peace, Love et plus si affinités, puis son personnage de Pete pour la suite d'En cloque, mode d'emploi, intitulée This Is 40.

Tout en continuant à multiplier les comédies telles que Légendes vivantes en 2013 où il retrouve d'autres acteurs de l'écurie Apatow comme Will Ferrell et Steve Carell ou C'est la fin du tandem Seth Rogen et Evan Goldberg, Paul Rudd s'illustre dans une veine plus indépendante du cinéma américain. Ainsi, il joue dans le sombre teen movie Le Monde de Charlie et la comédie dramatique Prince of Texas où il forme un tandem atypique avec Emile Hirsch. L'acteur revient également à la télévision en participant à plusieurs épisodes de la série humoristique Burning Love, et joue son propre rôle dans un épisode des Simpson. 

En 2015, Paul Rudd s'illustre dans un genre qu'il n'avait jusque-là pas encore exploré, à savoir le blockbuster en jouant un super-héros dans la nouvelle production des studios Marvel Ant-Man de Peyton Reed. Compte tenu du succès du film, le comédien reprend son personnage dans Captain America: Civil War, Ant-Man et la Guêpe, Avengers: Endgame et Ant-Man and the Wasp: Quantumania.

Parallèlement à son travail sur la franchise du MCU, le natif de Passaic joue dans les comédies Fun Mom Dinner et Ideal Home, ainsi que dans les thrillers Le Joueur de base-ball était un espion et Mute. Il est également présent du côté du petit écran, dans les séries Living with Yourself et The Shrink Next Door. En 2021, Paul Rudd est à l'affiche de S.O.S. Fantômes : L'Héritage, la suite directe des films de 1984 et 1989.