Frère de la comédienne Virginia Madsen.
C'est durant son adolescence rebelle que Michael Madsen se passionne pour les classiques du cinéma et du théâtre. Après avoir vu Des souris et des hommes au Steppenwolf Theatre de Chicago, il se décide à devenir acteur. Enchaînant toute une série de petits boulots - peintre en bâtiment, infirmier, réparateur, pompiste, il s'établit à Los Angeles et y décroche ses premiers rôles dans des séries télévisées comme Deux flics à Miami, Cagney et Lacey ou encore St. Elsewhere.
En 1983, il fait ses premiers pas au cinéma en jouant aux côtés du jeune Matthew Broderick dans le film à succès de John Badham War games. Dès lors, il multiplie les petits rôles sur grand écran, comme celui d'un joueur de base-ball dans Le Meilleur (1984) ou d'un cow boy dans Un fusil pour l'honneur (1989). En 1989, sa prestation de truand psychopathe souhaitant en découdre avec Val Kilmer dans Kill me again l'impose dans les rôles de méchants patibulaires. Une consécration que vient confirmer sa terrifiante performance dans Reservoir dogs (1992) de Quentin Tarantino. Il y incarne Mr. Blonde, gangster passé maître dans l'art du découpage d'oreille.
Malgré tout, Michael Madsen se démarque en interprétant Jimmy, le petit ami compréhensif de Susan Sarandon, dans Thelma et Louise (1991), le père aimant de Sauvez Willy (1993) et le paisible Virgil Earp dans Wyatt Earp (1994) de Lawrence Kasdan. En 1994, il reprend le rôle du brigand revanchard Rudy Travis, tenu à l'origine par Al Lettieri, dans Guet-apens, le remake du polar de Sam Peckinpah signé Roger Donaldson. Passé du bon côté de la loi, l'acteur à la corpulence massive et au sourire carnassier traque La Mutante (1995) puis, comme Nick Nolte, intègre Les Hommes de l'ombre en 1996.
En tête d'affiche de nombreux téléfilms et séries B directement sorties en vidéo (Vengeance unlimited, Les Derniers jours de Frankie), il doit souvent se contenter de rôles secondaires de durs à cuire au cinéma : le mafieux Sonny Black dans Donnie Brasco (1997), l'agent de la CIA Damian Falco dans le bondien Meurs un autre jour (2002), le tueur Budd dans Kill Bill (2003) de son ami Tarantino, le hors-la-loi Wally Blount, ennemi juré de Blueberry (2004) et retrouve le monde des comic-books dans le Sin City (2005) de Robert Rodriguez.
Il prête sa voix à l'un des personnages du premier chapitre du Monde de Narnia et continue ses participation dans des films de genre, dont le plus connu de cette période reste Scary Movie 4 en 2006. Face à cela, les réalisateurs français lui accordent toujours leur confiance : Olivier Assayas le fait tourner dans Boarding Gate (2007) aux côtés d'Asia Argento, et Fabrice Genestal dans Krach (2010) avec Gilles Lellouche et Charles Berling. A la télévision, Michael Madsen est aussi l'un des rares alliés de Jack Bauer dans l'ultime saison de la série 24 heures chrono.
Enchainant les direct-to-dvd (Run or Die, Piraconda, etc.) à une vitesse grand V pour pouvoir payer ses nombreuses pensions alimentaires, Michael Madsen est rappelé par un certain Quentin Tarantino pour prendre part à son nouveau western Les Huit salopards, dans lequel le metteur en scène collabore avec d'autres de ses acteurs fétiches comme Kurt Russell, Tim Roth et Samuel L. Jackson.