Issu d'une famille nombreuse, le jeune Ron Eldard a d'abord enfilé des gants et pratiqué la boxe pendant plusieurs années. Il se convertit au théâtre après avoir longtemps été un admirateur de Steve Martin et Robin Williams. Il suit alors une formation en Arts dramatiques et sort diplômé de la New York High School for the Performing Arts' Drama Department. Sa carrière d'acteur commence à prendre forme, notamment grâce à ses performances à Broadway dans des pièces telles que On the Waterfront ou Biloxi Blues...
Ron Eldard fait ses débuts cinématographiques dans True Love (1989), une comédie romantique avec Annabella Sciorra et Aida Turturro. Il fait ensuite quelques apparitions dans des films tels que Drop Dead Fred (1991), une comédie fantastique douce-amère, ou encore Le Temps d'un week-end (1992), un drame émouvant où il croise Al Pacino, Chris O'Donnell et Philip Seymour Hoffman. L'acteur interprète enfin l'un des premiers rôles de L' Ultime souper (1995), à mi-chemin entre polar et comédie grinçante, où il joue aux côtés de Cameron Diaz. L'année suivante, on le retrouve au générique de Sleepers (1996), un drame cruel doté d'un casting aux petits oignons (Brad Pitt, Robert De Niro, Kevin Bacon et Dustin Hoffman). Entre-temps, Eldard tient un rôle récurrent d'auxiliaire médical dans la deuxième saison d'Urgences, la célèbre série télévisée.
Ce détour par le petit écran permet au comédien d'être perçu dans le milieu du cinéma comme une valeur sûre. Il incarne ainsi un astronaute dans Deep Impact (1997), un film-catastrophe où notre planète est menacée de disparition par une comète spatiale. Eldard y côtoie Robert Duvall, Tea Leoni et Morgan Freeman dans un casting encore une fois très étoffé. Un an plus tard, il rejoint Russell Crowe pour le tournage glacial de Mystery, Alaska sous la direction de Jay Roach, puis campe un Marine dans La Chute du faucon noir (2001) de Ridley Scott, vit des amourettes avec Marley Shelton dans Just a Kiss (2002), monte sur un bateau hanté dans Le Vaisseau de l'angoisse (id.) aux côtés de Gabriel Byrne et participe à une enquête criminelle dans La Couleur du crime (2005) où il tient la réplique à Samuel L. Jackson. En 2011, il est à l'affiche de Super 8, un mystérieux thriller de science-fiction réalisé par J.J. Abrams.