Diplômée en Histoire de l'art, Ali MacGraw commence à faire divers petits boulots à New York, avant de rencontre le photographe de mode Melvin Sokolsky qui la pousse vers le mannequinat. Après une apparition dans Un détective à la dynamite avec Kirk Douglas, elle se fait repérée dans une adaptation de Philip Roth, Goodbye, Columbus, une comédie dramatique dans laquelle elle donne la réplique à Richard Benjamin.
En 1970, elle prête ses traits à Jenny dans le drame romantique Love Story, signé Arthur Hiller et écrit par Erich Segal. Elle y interprète un personnage découvrant qu'elle est atteinte d'une maladie incurable. Elle et son partenaire à l'écran Ryan O'Neal seront nommés à l'Oscar de Meilleur acteur et actrice pour ce film, qui est un succès retentissant. Deux ans plus tard, Ali MacGraw rencontre Steve McQueen pour les besoins de Guet-apens de Sam Peckinpah et c'est le coup de foudre.
Mais McQueen interdit à son épouse de tourner tant qu'ils restent ensemble, ce qui la tient éloignée des plateaux jusqu'à leur divorce en 1978, date à laquelle Peckinpah refait appel à elle pour Le convoi. Elle tourne ensuite un nouveau drame romantique (Smash d'Anthony Harvey) puis travaille avec Sidney Lumet sur Just Tell Me What You Want (1980). Les années qui suivent la voient donner la réplique à deux "vétérans" : Robert Mitchum dans la minisérie Le Souffle de la guerre et George C. Scott pour le téléfilm China Rose.
Ses apparences deviennent ensuite plus rare, se limitant à un court arc narratif de Dynastie, une poignée de téléfilms et un troisième rôle dans Glam de Josh Evans, qui signe la fin de sa carrière sur les écrans en 1997. Elle commence ensuite une carrière théâtrale dans une adaptation de Festen, puis retrouve Ryan O'Neal sur les planches pour lire les lettres de la pièce de Love Letters.