Après des débuts au théâtre dans les années 60, Gottfried John tourne à plusieurs reprises pour son compatriote Rainer Wener Fassbinder. Dans des films, comme Despair, Le Mariage de Maria Braun ou Lili Marleen, mais aussi pour la télévision, avec une prestation impressionnante dans la série Berlin Alexanderplatz.
Le physique massif de Gottfried John lui permet d'être embauché pour des rôles de méchants. En 1995, il est le Général Ourumov dans le James Bond Goldeneye, face à Pierce Brosnan. Et quatre ans plus tard, il incarne Jules César dans Astérix et Obélix contre César. Si sa carrière se déroulera ensuite surtout en Allemagne, notons sa participation au film hollywoodien L'Echange, aux côtés de Meg Ryan et Russell Crowe.