L'enfance d'Ivan Desny est nomade. Fils d'un diplomate russe, il naît en Chine et fait ses études à Paris. Pendant la guerre, il est envoyé dans un camp de travail en Allemagne. A la Libération, il joue dans un film inachevé de Marcel Carné, La Fleur de l'âge mais c'est avec Madeleine de David Lean qu'il est remarqué.
Prisé par Claude Autant-Lara (Le Bon Dieu sans confession), Michelangelo Antonioni (La Dame sans camélias) ou Max Ophuls (Lola Montes), il tourne également aux Etats-Unis dans Anastasia avec Ingrid Bergman.
Rainer Werner Fassbinder lui offre en 1979 un rôle marquant dans Le Mariage de Maria Braun. Il incarne Oswald, un malade incurable qui propose un pacte étrange au mari de sa maîtresse.
Dans les années 80 et 90, Ivan Desny tourne avec plusieurs réalisateurs français dont Patrice Chéreau (Hotel de France), Benoît Jacquot (La Desenchantee) ou André Techiné (J'embrasse pas et Les Voleurs, le dernier film dans lequel il tourne).