Après s'être formé à l'Actor Studio, Peter Greene trouve son premier rôle important dans le polar La Loi de la gravité en 1992, celui d'un voyou mêlé à une affaire de trafic d'armes. Il poursuit avec le thriller La Nuit du Jugement et surtout Clean, Shaven, dans lequel il campe un schizophrène recherchant sa fille.
1994 est définitivement son année puisque Peter Greene joue ses deux personnages les plus célèbres : l'ennemi de Jim Carrey dans The Mask et le violeur de Ving Rhames/Marsellus Wallace dans Pulp Fiction. Deux prestations montrant à quel point l'acteur est à l'aise dans les rôles de méchants.
L'année suivante, Peter Greene incarne un petit rôle mais marquant dans le polar culte Usual Suspects de Bryan Singer : le gangster Redfoot qui jette un mégot de cigarette dans l’œil du personnage de Stephen Baldwin. Mais sa carrière ne décolle pas, en grande partie en raison de son addiction à la drogue.
Privilégiant l'action, le polar et le thriller, le natif de Monclair à la voix rauque apparaît toutefois dans Piège à grande vitesse (1995), Sombres soupçons (1996), Permanent Midnight (1998), Flic de haut vol (id.) et Black Cat Run (id.), mais la plupart du temps par le biais de personnages secondaires.
Dans les années 2000, hormis sa brève participation à Training Day (un membre de l'équipe de ripoux emmenée par Denzel Washington), Peter Greene joue dans des films souvent peu recommandables, comme Explosion imminente, Black Cloud, Brothers in Arms, Final Engagement ou Manhattan Samouraï.
Le comédien poursuit cette orientation de carrière dans les années 2010 et 2020. On le voit ainsi dans les méconnus Once Fallen, The Kill Hole et City Of Lies. Il prend également part à la série judiciaire produite par 50 Cent For Life ainsi qu'à The Continental, série prequel à la lucrative saga d'action John Wick.
Laurent Schenck