Après avoir rencontré Jim Henson, le futur auteur du Muppet Show, à l'âge de dix-sept ans, Frank Oz abandonne le journalisme et rejoint son équipe à New York. Dès 1969, il participe au succès de l'émission enfantine 1, rue Sésame et crée certains personnages du Muppet Show, dont Miss Peggy et l'ours Fozzie. Il interprète également ces créatures pour les longs métrages Tales from Muppetland : the frog prince (1972) de Jim Henson, Les Muppets, ça c'est du cinéma (1979) de James Frawley, The Great Muppet carper (1981) de Jim Henson ou encore Les Muppets dans l'espace (1999) de Tim Hill.

S'éloignant temporairement de l'univers des Muppets, Frank Oz prête sa voix au sage et malicieux Yoda dans cinq films de la saga Star wars : L'Empire contre-attaque (1980) d'Irvin Kershner, Le Retour du Jedi (1983) de Christian Marquand, La Menace fantôme (1999), L'Attaque des clones (2002) et La Revanche des Sith (2005) de George Lucas.

En 1982, il cosigne avec Jim Henson le film de marionnettes Dark crystal, puis porte à l'écran la comédie musicale La Petite Boutique des horreurs en 1986. Il dirige également Steve Martin dans trois longs métrages : Le Plus escroc des deux (1988) avec Michael Caine, Fais comme chez toi (1992) avec Goldie Hawn, et le satirique Bowfinger, roi d'Hollywood (1999) avec Eddie Murphy.

Hormis un passage par le fantastique avec la fable L'Indien du placard (1995), Frank Oz réalise d'autres comédies à succès comme In & out (1997), dans laquelle Kevin Kline a du mal à assumer son homosexualité. En 2001, il change de registre et met en scène The Score, un film de braquage réunissant un trio de brillants acteurs : Robert De Niro, Edward Norton et Marlon Brando. Frank Oz retourne à nouveau derrière la caméra en 2004 avec Et l'homme créa la femme, avant de prêter sa voix pour la dernière fois à Yoda dans Star wars : Episode III - La Revanche des Sith.