Fraîchement sorti de l'académie de police, Frank Serpico commence son service à New York avec une forte idéologie et les valeurs qui lui sont propres. Mais il se rend vite compte qu'il entre dans une vaste machine à corruption. Ne se laissant aller au petit jeu des pots-de-vin, il est rapidement isolé au sein de sa brigade. Alors qu’il s’apprête à révéler ses découvertes au grand jour, aux yeux de ses collègues, Serpico n'est qu'un traître.
A sa libération, Gino Strabliggi, un ancien truand, est chaperonné par l'inspecteur Cazeneuve, inspecteur a la retraite, qui l'aide a se reinserer. Malheureusement un autre policier cherche à le faire trébucher.