Né le 16 mars 1928 à Darmstadt (Allemagne), d'un père chef-d'orchestre et d'une mère chanteuse d'opéra, Karlheinz Böhm semble avoir une porte grande ouverte pour s'illustrer dans le milieu de la musique. Mais c'est la scène qu'il choisit : au théâtre puis sur grand écran. Et c'est après quelques apparitions non-créditées et un poste d'assistant auprès du cinéaste Géza von Cziffra qu'il se fait remarquer dans le film d'épouvante Mandragore, face à Erich von Stroheim.
Mais la vraie reconnaissance n'interviendra que 3 ans plus tard, lorsqu'il incarne François-Joseph d'Autriche dans le premier volet de Sissi. Un rôle qu'il reprend dans les deux épisodes suivants, installant un peu plus durablement le couple qu'il forme à l'écran avec Romy Schneider au panthéon du 7ème Art. A tel point que la trilogie ressort en 1962, condensée en un seul film, sous le titre Forever My Love.
Entre temps, Karlheinz Böhm brise son image avec brio en devenant Le Voyeur du classique de Michael Powell, dont bon nombre de cinéastes se sont inspirés par la suite, Brian De Palma en tête. L'acteur autrichien, lui, enchaîne en tournant pour Vincente Minelli (Les Quatre cavaliers de l'Apocalypse) et Jacques Deray (Rififi à Tokyo) et se tourne vers la télévision. C'est là qu'il rencontre Rainer Werner Fassbinder, pour lequel il tourne dans Martha (1973), avant de repasser très vite devant sa caméra grâce au Droit du plus fort et à Effi Briest (1974 tous les deux), puis Maman Küsters s'en va au ciel (1975).
Soient les derniers rôles marquants de celui qui créé, en novembre 1981, l'association "Menschen für Menschen", pour lutter contre la pauvreté en Ethiopie, et apparaît pour la dernière fois sur grand écran en 1983. Sorti de sa retraite le temps d'un épisode de la série Der Bergdoktor, en 1996, celui qui a appelé sa première fille Sissi y retourne aussi vite. Pour mieux se consacrer à son ONG, dont il délègue la présidence à son épouse en 2011, quelques années avant sa mort, survenue ce 29 mai 2014.