Joann Ratner de son vrai nom est née le 15 juillet 1931 à Chicago. Elle a commencé sa carrière sur les planches de Broadway dans trois productions très remarquées, dont une adaptation en 1960 de Becket avec Laurence Olivier et Anthony Quinn. En 1964, elle triomphe dans la comédie musicale Un violon sur le toit, qui sera très solidement adaptée par Norman Jewison en 1971. Elle fera par la suite de nombreuses comédies musicales sur scène, comme Evita, dont le livret musical est écrit par Andrew Lloyd Webber.

Côté cinéma, elle avait débuté dès 1956 en incarnant la fille de Jethro (le beau-père de Moïse) dans le monumental péplum Les Dix Commandements de Cecil B. DeMille. Par la suite, elle a surtout enchaîné de petits rôles dans des fictions sur petit comme grand écran. Dans des oeuvres parfois importantes cela dit, comme All That Jazz de Bob Fosse. En 1980, elle incarnait dans le film culte Fame d'Alan Parker la fameuse prof de ballet Miss Olive Berg.

Occupant dès les années 70 un poste de directrice de casting à Brodway et au cinéma, Joanna Merlin a toujours régulièrement travaillé, en plus de lui valoir la reconnaissance du milieu artistique. Elle a été notamment à ce titre la directrice de casting de L'année du dragon de Michael Cimino; des Aventures de Jack Burton dans les griffes du Mandarin de John Carpenter; celle du chef-d'oeuvre Le Dernier empereur de Bernardo Bertolucci; ou encore L'amant de Jean-Jacques Annaud.

Mais son rôle le plus reconnaissable est celui de la franchise New York unité spéciale. Bien qu'elle soit apparue à plusieurs reprises dans la série originale au milieu des années 1990, c'est son rôle de la juge Lena Petrovsky, dure et pragmatique, dans 43 épisodes de la série tout au long des années 2000-2011, qui a durablement imprimé sa carrière.