Tras debutar en Broadway en 1999 con la versión teatral de Legítima defensa, David Harbour empezó a obtener pequeños papeles en la pequeña y gran pantalla. Fue un profesor en La guerra de los mundos, un gay casado que hablaba con Jake Gyllenhaal en Brokeback Mountain y Drácula en Awake. Actor secundario cada vez más solicitado, también apareció en Quantum of Solace, Revolutionary Road o La sombra del poder.

En el violento thriller de 2012 Sin tregua (End of Watch), David Harbour interpreta a un policía veterano que es apuñalado en el ojo por un miembro de una banda, y en el thriller Caminando entre las tumbas se mete en la piel de uno de los dos asesinos en serie de la película.

Paralelamente, David Harbour también está activo varias series, con papeles más o menos recurrentes en Manhattan o The Newsroom. Pero es con la serie de Netflix Stranger Things cuando la fama del actor se ve impulsada. En esta serie inspirada en los universos de Stephen King y Steven Spielberg durante los años 80, presta su imponente estatura al sheriff Jim Hopper, que se propone desentrañar el misterio de la misteriosa desaparición del joven Will.

David Harbour ha aparecido en los últimos años en películas como Escuadrón Suicida o Tyler Rake. En 2019, interpreta el papel principal en Hellboy, dirigida por Neil Marshall. También incorporó al MCU gracias a su participación en Viuda Negra, donde interpretó a Alexei Shostakov junto a Scarlett Johansson.