Boxeur à l'adolescence, John Berry devient à 18 ans, acteur et assistant d'Orson Welles au théâtre. Il fait ses débuts au cinéma comme "observateur" sur le film de Billy Wilder Assurance sur la mort en 1944.
En 1945, il passe derrière la caméra, en tournant sur dix-huit mois Tuesday in November, Cross my heart et From this Day Forward. Des ces premiers films émergent déjà le ton de chronique réaliste et sociale qui dominera toute son oeuvre. Après une comédie musicale, version américaine de Pépé Le Moko, intitulée Casbah en 1948, il réalise l'année suivante, Tension, un classique du film noir. Puis il offre un très grand rôle, mais aussi son dernier, à John Garfield dans Menaces dans la nuit en 1951.
" Listé noir " au temps du maccarthysme, John Berry est chassé des Etats-Unis. Avant d'émigrer en France, il tourne un court-métrage dénonciateur, The Hollywood Ten, diffusé clandestinement.
En France il signe quelques films aux succès populaires tels que Ca va barder en 1954 et Je suis un sentimental en 1955 avec Eddie Constantine, Don Juan avec Fernandel en 1956. Il revient aux Etats-Unis en 1963 où il tourne occasionnellement : Claudine en 1974, comédie entièrement jouée par des Noirs, Un homme amoureux en 1986 ou Un prisonnier de la terre en 1991. A quatre-vingt deux ans il réalise son dernier film, Boesman & Lena qui sortira après sa mort, en 2001.