Inspirée par des films comme Rebecca d'Alfred Hitchcock ou encore Autant en emporte le vent de Victor Fleming, Rooney ambitionne très vite de devenir actrice, à l'instar de sa grande sœur Kate. Elle rejoint ainsi une petite troupe d'étudiants cinéphiles et apparait dans quelques films amateurs. Une fois diplômée de la célèbre New-York University, elle commence à passer des auditions.

Elle décroche son premier rôle en 2005 dans Urban legend 3 : Bloody Mary, dans lequel sa sœur interprète le personnage principal. En 2007, on la retrouve à la télévision dans les séries New York Unité Spéciale, Women's Murder Club puis The Cleaner, où elle effectue de courtes apparitions. Deux ans plus tard, elle obtient le premier rôle dans Tanner Hall, aux côtés d'Amy Sedaris et de Tom Everett Scott, puis enchaine avec la comédie Be Bad ! avec Michael Cera. En 2010, en plus d'apparaître dans de petits films indépendants présentés au festival de Sundance comme Dare et The Winning Season, elle est à l'affiche de Freddy - Les Griffes de la nuit, remake du film culte de Wes Craven (1984).

À force de persévérance, Rooney Mara finit par se retrouver au casting du Social Network de David Fincher. La comédienne y campe Erica, l'ex-petite amie de Mark Zuckerberg (Jesse Eisenberg). Un personnage secondaire, mais qui se révèle capital pour la suite de sa carrière car, impressionné par sa prestation, le réalisateur de Seven lui confie, dans les mois qui suivent, le rôle titre de la mystérieuse Lisbeth Salander dans Millenium : Les hommes qui n’aimaient pas les femmes, l'adaptation cinématographique du roman de Stieg Larsson, aux côtés de Daniel Craig.

La comédienne s'illustre ensuite sous la direction de David Lowery dans Les Amants du Texas en 2013. Elle y donne la réplique à Casey Affleck, qui incarne son compagnon. Les deux acteurs retrouveront d'ailleurs le cinéaste en 2017 pour A Ghost Story où ils formeront à nouveau un couple maudit, Affleck campant le mari défunt de Mara, revenant sous la forme de fantôme.

Avant cela, Rooney accède à la consécration en 2016 avec le rôle de Therese dans Carol de Todd Haynes. L'actrice est en effet récompensée du Prix d'interprétation féminine pour sa performance. On a également pu la voir dans Effets Secondaires de Steven Soderbergh ou Her de Spike Jonze. Après avoir brillé dans Lion de Garth Davis, Rooney prendra les traits de Marie-Madeleine dans le film du même nom et donnera la réplique à Joaquin Phoenix, à nouveau sous la houlette de Garth Davis.