Après avoir joué pendant une dizaine d'années dans des pièces off-Broadway, John Glover se fait remarquer en 1977 dans le film Julia aux côtés de Jane Fonda. Prêt à poursuivre sa carrière à Hollywood, il part s'installer à Los Angeles. Le travail ne manque pas et il gagne sa 1ère nomination aux Emmy Awards pour son rôle d'un patient atteint du Sida dans le téléfilm "Early Frost". Ses apparitions télévisées dans les séries Frasier, "La Loi de Los Angeles" ou "Homicide" lui permettent d'obtenir d'autres nominations aux Emmy.
Au cinéma, John Glover enchaîne une multitude de seconds rôles dans des films comme Fantomes en fete et Robocop 2. Il interprète plusieurs fois les méchants notamment dans Batman & Robin, Gremlins 2 et Masquerade. Et c'est encore le rôle d'un méchant qu'il se voit proposer dans Smallville, la série sur la jeunesse du futur Superman. D'abord récurrent, son personnage de Lionel Luthor devient régulier à partir de la saison 2 de la série.
