Diplômé de théâtre de l'Université de Boston et licencié de la School of the Arts de l'Université de New York, Bill Duke reçoit durant ses études à l'American Film Institute le Life Achievement Award 1980, puis la Médaille d'Or du Festival de Houston pour son court métrage The Hero.
Il fait ses débuts au cinéma en apparaissant dans Car wash (1976) et American gigolo (1980) de Paul Schrader. Parallèlement à sa carrière télévisuelle, il campe les gros bras face à Arnold Schwarzenegger dans Commando (1985) et Predator (1987) et donne la réplique à Mel Gibson dans Comme un oiseau sur la branche (1990) et Payback (1999).
Son physique corpulent impose le respect et le cantonne souvent aux rôles d'inspecteur et de flic en tout genre, notamment dans Menace II society (1993), L'Anglais (1999), Hors limites (2001), Dragon Rouge (2002) et National security (2003).
En 1991, Bill Duke se retrouve derrière la caméra pour les besoins de son premier long métrage intitulé Rage in Harlem, une adaptation cinématographique de La Reine des pommes de Chester Himes. Il dirige par la suite Whoopi Goldberg dans Sister act 2 (1993), puis Laurence Fishburne, Tim Roth et Andy Garcia dans le film de gangsters Les Seigneurs de Harlem (1997).
Bill Duke met ensuite sa carrière de réalisateur entre parenthèses, ne tournant plus que quelques épisodes de séries télévisées. Il poursuit cependant sa carrière de comédien, puisqu'on le voit à l'affiche en 1998 de L' Anglais et Payback. En 2006, il apparaît dans deux blockbusters américains, Réussir ou mourir et X-Men 3.