La carrière de Terry O'Quinn débute en 1980 à la télévision américaine dans le téléfilm "F.D.R.: The Last Year". La même année, il fait partie de l'aventure de La Porte du paradis, film maudit de Michael Cimino. Malgré cet échec, l'acteur apparaît par la suite dans L'Esprit d'équipe (avec le débutant Tom Cruise), Les Saisons du coeur, Mrs Soffel et Peur bleue en 1985.
Après s'être un temps consacré à la télévision et être apparue dans des séries comme "Remington Steele" ou Clair de lune, Terry O'Quinn fait un retour au premier plan grâce à "The Stepfather" en 1987. Le succès du film augure une nouvelle période faste pour l'acteur qui joue dans Young guns, Vengeance aveugle et The Rocketeer, où il interprète Howard Hughes.
En 1994, l'acteur fait une rencontre déterminante : Chris Carter. Alors tout auréolé du succès de X-Files, le créateur-scénariste l'engage pour un épisode de sa série. Débute dès lors une collaboration ponctuée par l'adaptation cinématographique de la série, The X Files, le film, et deux rôles réguliers dans deux autres des productions Carter : Millennium et "Harsh Realm".
En 2002, après avoir joué dans JAG, Terry O'Quinn fait une deuxième rencontre cruciale : J.J. Abrams, qui lui offre le rôle de Kendall dans Alias. O'Quinn intègre ensuite la Maison Blanche de The West Wing pour une dizaine d'épisodes, tout en figurant également au générique de séries comme NCIS : Enquêtes spéciales ou New York Unité Spéciale.
En 2004, Abrams lui propose d'explorer de nouvelles facettes de son talent dans Lost, les disparus en incarnant le mystérieux Locke.