Il débute sa carrière au théâtre. Après douze années sur des scènes de sa ville natale, il part jouer à New York. Puis il apparaît dans plus de 8O pièces et remporte son premier Obie Award (les Oscars de la scène américaine) en 1956. L'année suivante, il cède aux appels incessants de la télévision et joue dans sa première série télé, Trackdown. En très peu de temps il se fait un nom et enchaîne les productions audiovisuelles.
En 1963, avec PT 109 , un film retraçant la jeunesse de JFK, il signe son premier grand rôle au cinéma. L'année suivante, il interprète le hargneux Harry Pace dans Le Prix d'un meurtre mis en scène par Don Siegel. Il compose face à Bill Cosby l'un des duos les plus marquants du petit écran dans la série Les Espions (1965-1968). Profitant de cette popularité, il s'impose à Hollywood avec un des grands classiques de la comédie américaine Bob et Carole et Ted et Alice (1969). Cette même année, il écrit, réalise commente et produit Operation break basket avec Jessie Jackson, un documentaire sur l'économie noire en Amérique pour la chaîne ABC. Deux ans plus tard il dirige son premier film pour le cinéma, un polar criminel très noir Hickey & Boggs où il joue aussi auprès de Bill Cosby sur un scénario signé Walter Hill.
Parallèlement à sa carrière cinématographique (Un Colt pour trois salopards (1971), Culp continue de jouer pour la télé, dans des séries très renommées telles : Columbo, Perry Mason, Au-delà du réel, Cosby Show ou encore Arabesque. Dans les années 90, il se montre plus présent au cinéma notamment dans L'Affaire Pélican où il joue le président des Etats-Unis, dans la satire Agent zero zero et aux côtés de Jon Voight dans le thriller Wanted recherche mort ou vif. En 2000, il interprète le juge Winston dans Dark summer, un polar signé Gregory Marquette.