Sam Elliott a fait ses premières armes au théâtre, avant de débuter au cinéma avec un rôle de figuration dans Butch Cassidy et le Kid. Cette courte performance de joueur de cartes va marquer sa vie à jamais : c'est sur le tournage qu'il rencontre son épouse Katharine Ross, et qu'il joue pour la première fois dans un genre qu'il n'allait plus quitter, le western. Son regard dur et sa voix grave l'amènent en effet très souvent à incarner l'authentique cow-boy américain, notamment dans Tombstone en 1993.
C'est par le biais de la télévision que Sam Elliott accède à la reconnaissance publique, bien que son physique avantageux ait été largement mis à contribution sur grand écran, notamment dans Lifeguard en 1976 (l'ancêtre d'Alerte à Malibu), Road House ou le drame Mask, où il jouait l'amant de Cher.
Après une longue carrière majoritairement télévisuelle, le comédien tourne de plus en plus pour le cinéma. On a ainsi pu le voir dans The Big Lebowski en 1997, The Hi-Lo Country de Stephen Frears, Manipulations en 2000, il sera l'un des héros de We were soldiers avec Mel Gibson et il fera partie du casting de Hulk de Ang Lee. En 2006, il revient dans la première réalisation de Jason Reitman, la comédie Thank You for Smoking. Sam Elliott enchaîne les films en 2007. Il prête sa voix à la Vache Ben dans le film d'animation La Ferme en folie, incarne le fossoyeur dans Ghost Rider, film fantastique, aux côtés de Nicolas Cage et Eva Mendes et enfin revient au cowboy texan sous les traits de Lee Scoresby dans A la croisée des mondes : la boussole d'or de Chris Weitz, l'adaptation du roman du même titre.