Réalisateur, scénariste, producteur et même acteur, Barry Levinson étudie à l'American University de Washington, puis s'installe à Los Angeles, où il commence à écrire pour des émissions de télévision dont The Marty Feldman comedy machine. En 1976, l'artiste croise la route de Mel Brooks. Les deux hommes collaborent sur La Dernière folie, réalisé par Mel Brooks et écrit par Barry Levinson, qui apparaît également dans le film, puis sur Le Grand Frisson avec la même répartition des rôles.
Désormais lancé, Barry écrit Justice pour tous de Norman Jewison (1979) - ce qui lui vaudra une nomination aux Oscars - avant de passer lui-même derrière la caméra en 1982. Ce sera pour Diner, féroce comédie satirique située dans sa ville natale. En 1984, il dirige Robert Redford et Robert Duvall dans Le Meilleur, avant de cibler un public plus jeune avec Le Secret de la pyramide. Dans Good Morning, Vietnam, il fait de Robin Williams un disc jockey envoyé au Vietnam pour animer la radio de l'armée.
Mais la consécration, Barry Levinson la connaît en 1988 avec Rain Man. Succès public et critique, le film cumule les Oscars de Meilleur film, Meilleur réalisateur, Meilleur acteur (pour Dustin Hoffman) et Meilleur scénario. Rain Man est également nommé dans quatre autres catégories (dont Meilleure bande originale pour la mélodie d'Hans Zimmer) et permet à Tom Cruise de confirmer son potentiel dramatique.
Désormais réalisateur en vue à Hollywood, Levinson enchaîne sur le drame historique Avalon en 1990 (pour lequel il endosse pour la première fois le costume de producteur), Bugsy en 1991 et Toys en 1992, qui ne remporteront pas le succès escompté. Il faut attendre 1994 pour le voir renouer avec le public grâce à Harcèlement, thriller érotique opposant Michael Douglas à Demi Moore. La même année, le cinéaste signe la comédie dramatique Jimmy Hollywood.
Attiré par la télévision, il réalise alors le pilot de Homicide qu'il produira jusqu'à la fin de sa diffusion sur les écrans américains en 1999. Il renouvelle l'expérience en participant à plusieurs épisodes de la série carcérale culte Oz créée par Tom Fontana.
A la fin des années 1990, Barry Levinson retrouve Dustin Hoffman pour trois films : Sleepers, Des hommes d'influence et Sphere. Aussi à l'aise dans la satire politique que dans le film de science fiction, il se replonge dans le drame en 1999 avec Liberty Heights puis en 2000 avec An Everlasting piece. Également producteur (de Donnie Brasco et En pleine tempete notamment), le réalisateur dirige Bruce Willis et Billy Bob Thornton en 2001 dans la comédie dramatique Bandits.
Trois ans plus tard, il change une nouvelle fois de registre et réunit les deux humoristes Ben Stiller et Jack Black dans L'envie. Il tourne ensuite L'homme de l'année et Panique à Hollywood qui marquent ses retrouvailles avec deux de ses acteurs fétiches Robin Williams et Robert De Niro.
Le réalisateur fait son retour à la télévision avec You don't know Jack, biopic HBO et pour lequel Al Pacino, qui interprète Docteur Jack Kevorkian, est récompensé d'un Golden Globes en 2011. Alors qu'il travaille sur les séries Borgia et Copper qui lui permettent de refaire équipe avec Fontana, Barry s'essaie au found footage avec le film d'anticipation horrifique The Bay (2013). Il retrouve ensuite Pacino, cette fois dans la peau d'un comédien de théâtre dont le succès est derrière lui dans The Humbling (2014).
Le natif de Baltimore signe ensuite Rock the Kasbah (2015), où Bill Murray incarne un manager de rock qui part pour une tournée en Afghanistan. En 2017 et 2018, il dirige The Wizard of Lies et Paterno, deux téléfilms (le premier avec De Niro, le second avec Pacino). Il faut ensuite attendre 2021 pour qu'il réalise un nouveau film, Le Survivant, un biopic sur le boxeur Harry Haft. En 2025, il revient au film de gangsters avec The Alto Knights, où De Niro campe deux figures mafieux : Frank Costello et Vito Genovese.
En parallèle de ses projets cinématographiques, Levinson reste très actif en tant que producteur exécutif pour plusieurs séries télévisées, utilisant son expérience pour soutenir de nouveaux talents et des récits innovants.