Né à la base aérienne Scott dans l'Illinois, Peter Sarsgaard fait ses études supérieures à l'Université Washington de Saint Louis où il obtient un diplôme d'histoire et de littérature. Il se consacre au théâtre, fonde un groupe d'improvisation, et se fait remarquer par John Cameron Mitchell, qui l'engage pour sa pièce Kingdom of Earth.

Peter Sarsgaard apparaît pour la première fois au cinéma dans La Dernière marche de Tim Robbins (1995). Il tient ensuite un plus grand rôle dans Desert blue, où il côtoie la jeune génération montante d'Hollywood : Christina Ricci, Casey Affleck et Kate Hudson. Il décide d'accepter tous les rôles, d'aller à toutes les auditions, y compris pour des rôles de personnages en marge de la société. Ainsi Larry Clark, cinéaste sulfureux, lui propose le rôle de Ty dans Another day in paradise. Le plus classique Randall Wallace lui fait ensuite incarner le fils d'Athos dans L'Homme au masque de fer, film au casting prestigieux (Leonardo DiCaprio, John Malkovich, Jeremy Irons, Gérard Depardieu...).

Après ces productions hollywoodiennes, Sarsgaard amorce un virage déterminant en acceptant le rôle d'un homophobe virulent et meurtrier dans Boys don't cry (1999). Il joue ensuite dans Shattered glass (2003), puis alterne grosses productions hollywoodiennes et films à plus petit budget. Ce comédien au visage endormi rejoint Harrison Ford et Liam Neeson pour K-19 : le piège des profondeurs (2001), puis joue dans le sombre Salton sea, où il interprète l'un des drogués qui initient Val Kilmer à leurs pratiques.

Souvent abonné aux seconds rôles, il fait parti de ces acteurs qui leur rendent leurs lettres de noblesse, notamment dans Garden state, premier film de Zach Braff et surtout dans Dr Kinsey, où il retrouve Liam Neeson deux ans après K-19. En 2005, Peter Sarsgaard est à l'affiche du thriller Flight plan, où il partage l'affiche avec Jodie Foster, et de Jarhead - la fin de l'innocence. Après s'être illustré dans Détention secrète, l'acteur tourne pour Bertrand Tavernier en 2009, dans le thriller Dans la brume électrique où il donne la réplique à Tommy Lee Jones.

S'illustrant toujours dans des rôles et des genres cinématographiques différents, on le retrouve en fils rancunier de Ben Kingsley dans Lovers, puis en pygmalion de la révélation d'Une éducation (nommé à l'Oscar du Meilleur Film 2010), Carey Mulligan, avant de s'essayer au film d'horreur dans Esther et de donner la réplique à Cameron Diaz et Tom Cruise dans le film d'action Night and Day.

En 2011, Sarsgaard joue le savant fou Hector Hammond dans Green Lantern, l'adaptation filmique de la série de comics qui se solde par un échec au box-office. 2013 est une année chargée pour l'acteur, qui tourne dans Lovelace avec Amanda Seyfried où il campe Chuck Traynor, le mari et le manager d'une célèbre actrice porno des années soixante-dix. Il est aussi acclamé pour son second rôle dans Blue Jasmine de Woody Allen et pour celui de Ray Seward dans la série télévisée The Killing qui fait un retour triomphant après des difficultés d'audimat.

Actif, Peter Sarsgaard joue ensuite le prêtre et grand joueur d'échecs William Lombardy dans Le Prodige réalisé par Edward Zwick, ainsi qu'un petit voyou, Brian Halloran, dans Strictly Criminal aux côtés d'un Johnny Depp méconnaissable dans la peau du terrifiant mafieux James J. Bulger. Toujours en 2015, année définitivement très dense pour le comédien, Sarsgaard interprète Stanley Milgram, un psychologue très controversé pour ses expériences sur la soumission à l’autorité, dans le biopic Experimenter.

En parallèle de ses prestations plus ou moins marquantes dans les films Jackie, Les Sept mercenaires (il y joue le très abjecte méchant), Apparence trompeuse, Human Capital et The Batman, Peter Sarsgaard trouve des rôles intéressants du côté des séries (principalement adaptées de faits réels). Il campe ainsi, dans The Looming Tower, un haut dirigeant de la CIA s'acharnant à cacher des informations au FBI dans la lutte contre le terrorisme. Dans Dopesick, sur Disney +, il incarne un homme de loi pugnace qui entend bien faire tomber Purdue Pharma, responsable de dizaines de milliers de morts liées à l'Oxycodone.