Soeur aînée de Will McCormack, Mary McCormack débute sa carrière sur les planches à l'âge de 12 ans, dans l'opéra Ahmal and the night visitors. Après avoir fréquenté de nombreux théâtres, new-yorkais notamment, la jeune femme intègre le William Esper Studio pour améliorer son jeu. Elle fait ses premiers pas devant l'objectif en 1990 dans la série de Dick Wolf, Law & Order.

Après une apparition dans Miracle sur la 34ème rue, l'actrice se fait remarquer du grand public en 1995 grâce à son rôle d'avocate dans le show de Steven Bochco, Murder One. Deux ans plus tard, elle est aux côtés de l'animateur radio provocateur Howard Stern dans l'autobiographique Parties intimes, elle devient la doublure de la scandaleuse Sally Bowles de Cabaret à Broadway, avant de rejoindre le casting de Deep impact.

En 1999, Mary McCormack tourne pour et avec Clint Eastwood dans Jugé coupable. Elle se dirige ensuite vers des productions plus indépendantes telles que Mystery, Alaska (aux côtés d'un inconnu nommé Russell Crowe) (1999), Mafia parano avec Sandra Bullock (2000), Rouge à lèvres et arme à feu ou World traveler (2001).

Dans les années 2000, elle partage l'affiche de K-Pax, l'homme qui vient de loin (2002) avec Jeff Bridges et Kevin Spacey, et intègre la même année l'univers de Steven Soderbergh, en tournant dans Full Frontal. Elle est également au casting de Madison en 2005. Mais c'est la télévision qui va lui permettre de tirer véritablement son épingle du jeu.

Son aventure télévisée trouve son second souffle en 2003 lorsqu'elle décroche un rôle dans la saison 10 d'Urgences. Son personnage, un médecin du nom de Debbie, croise le chemin du docteur Carter (Noah Wyle), parti au Congo dans l'espoir de donner un sens à sa vie. Elle réapparaîtra dans quelques épisodes de la 12ème saison. Soderbergh fait à nouveau appel à elle pour K Street, une série mi-documentaire sur le monde politique de Washington, co-produite avec George Clooney pour HBO. Un an plus tard, Mary McCormack fait son entrée au sein du staff du Président Bartlet à la fin de la 5ème saison d'À la Maison blanche ! Elle y incarne Kate Harper, conseillère adjointe à la Sécurité Nationale, et y restera jusqu'à la fin de la série, en mai 2006.

Après une pause maternité, une parenthèse cinéma avec le thriller Chambre 1408 et un retour sur les planches avec Boeing Boeing aux côtés de Bradley Whitford (l'un de ses partenaires d'À la Maison blanche), Mary McCormack se voit proposer en 2008 le rôle principal féminin de la nouvelle série d'USA Network, In Plain Sight (U.S. Marshals, protection de témoins en VF). Elle devient Mary Shannon, un US Marshall au tempérament fort qui jongle entre une famille dysfonctionnelle et ses lourdes responsabilités au sein du programme de protection des témoins du FBI dans la petite ville d'Albuquerque. Pour la petite histoire, son personnage fait une apparition dans la saison 7 de New York Section Criminelle, deux semaines seulement après le lancement de la série. In Plain Sight restera à l'antenne durant cinq saisons, USA mettant un terme définitif aux aventures de Mary Shannon le 4 mai 2012. La comédienne est aussitôt engagée pour jouer une femme d'affaires qui se retrouve du jour au lendemain femme au foyer dans le pilote de la comédie de Kari Lizer, The Unprofessional, destinée à ABC pour la saison 2012-2013. Et elle est dirigée sur le grand écran par son partenaire d'In Plain Sight Paul Ben-Victor dans Should've Been Romeo.