Né Emil Anton Bundesmann, Anthony Mann débute comme acteur de théâtre avant de se lancer dans le cinéma sous le parrainage du producteur David O. Selznick, qui l'engage comme assistant réalisateur. Après un téléfilm diffusé en 1939, The Streets of New York, Mann se voit confier son premier film comme réalisateur en 1942 : il s'agit de Dr. Broadway.
Il signe par la suite une série de films musicaux anodins, puis livre coup sur coup ses premiers chef-d'oeuvres : deux thrillers intitulés La Brigade du suicide (1947) et Marché de brutes (1948). A partir de 1950, il alterne films noirs nerveux, où la photographie contrastée de John Alton fait merveille, et westerns violents et épurés. C'est avec Winchester 73 qu'il entame une fructueuse collaboration avec l'acteur James Stewart et le scénariste Borden Chase, collaboration qui s'achèvera en 1955 et 5 films plus tard avec L'Homme de la plaine. Ces westerns sont souvent considérés comme ce que le genre a produit de plus pur et de plus abouti : axées le plus souvent sur l'idée de vengeance, ses histoires mettent en valeur le potentiel dramatique des décors naturels.
Il aborde ensuite d'autres genres, comme le mélodrame, avec Romance inachevée, où Stewart incarne Glenn Miller, ou encore le film de guerre, dont il fournit l'un des plus brillants modèles avec Cote 465 (1957). Dans les années 1960, son oeuvre commence à souffrir de l'effrondrement du studio system. Hollywood lance alors la mode des films historiques à grand spectacle, dont Mann réalise certains des plus beaux modèles : après s'être fait renvoyer par la star et producteur Kirk Douglas du tournage de Spartacus (pour lequel il est remplacé par le jeune Stanley Kubrick), il dirige l'adaptation du Cid (1961) de Corneille, puis La Chute de l'empire romain (1963), qui est considéré comme l'un des plus beaux péplums jamais produits.
Se sentant inadapté à son époque, Mann réalise ensuite sans enthousiasme, en Angleterre, un nouveau film de guerre, Les Héros de Télémark, qui n'obtiendra qu'un très faible succès. Il décède peu de temps après, lors du tournage de Maldonne pour un espion en 1967, à Berlin. Le film est alors achevé par Laurence Harvey, un des acteurs du film.