Après avoir fait ses débuts à Broadway en 1999 dans la reprise du Faiseur de pluie, David Harbour obtient des petits rôles sur petit mais surtout sur grand écran. Il est ainsi un travailleur sur les docs dans La Guerre des mondes, un homosexuel marié discutant avec Jake Gyllenhaal dans Le Secret de Brokeback Mountain ou encore Dracula dans Awake. Second rôle de plus en plus demandé, l'acteur apparaît aussi dans Quantum of Solace, Les Noces rebelles, Jeux de pouvoir, The Green Hornet et W.E..
Dans le violent polar End of Watch sorti en 2012, David Harbour incarne un policier chevronné qui reçoit un coup de couteau dans l'oeil par le membre d'un gang et dans le thriller Balade entre les tombes il se glisse dans la peau de l'un des deux tueurs en série du film. Truand confronté à Denzel Washington dans Equalizer, le comédien campe aussi John Morris dans Strictly Criminal qui est terrifié par le redoutable mafieux incarné par Johnny Depp (notamment lors d'une scène de dîner !).
Parallèlement, David Harbour est également actif sur petit écran, à l'image de ses rôles plus ou moins récurrents dans Rake, Manhattan, The Newsroom et State of Affairs. Mais c'est avec la série Netflix Stranger Things que la notoriété de l'acteur s'accélère vraiment. Dans cette série inspirée par les univers de Stephen King et Steven Spielberg des années 1980, il prête sa carrure imposante au shérif Jim Hopper qui entend bien percer le mystère de la mystérieuse disparition du jeune Will.
Privilégiant le registre de l'action, David Harbour apparaît dans Suicide Squad, Sleepless et Tyler Rake. En 2019, il incarne le rôle-titre de Hellboy réalisé par Neil Marshall. Il rejoint ensuite le MCU via Black Widow, où il campe Alexei Shostakov aux côtés de Scarlett Johansson. Le comédien d'1 mètre 90 interprète ensuite un Père Noël badass dans le bien bourrin Violent Night, puis rejoint la distribution de Gran Turismo, qui n'est autre que l'adaptation de la série de jeux vidéo du même nom par Neill Blomkamp.