Lorsque l'on pense à Peter Falk, la première image qui vient à l'esprit est bien évidemment celle du lieutenant Columbo. Ce rôle, qui l'a rendu célèbre et qu'il interprète depuis 34 ans (Prescription Murder, le premier épisode d'une série prolifique, débarque sur le petit écran en 1967, outre-atlantique), a marqué pour toujours la carrière de cet acteur, dont l'ardoise contient pourtant bien d'autres interprétations.
Il débute en tant que comédien bien avant Columbo dans le drame La Foret interdite de Nicholas Ray, en 1958. Par la suite, ses rôles tragi-comiques de gangster/psychopathe dans des films tels The Bloody Brood en 1959, ou Crime, societe anonyme en 1960 (pour lequel il est nominé à l'oscar du meilleur second rôle) démontrent tout le potentiel et la versatilité de la future star. En 1961, il reçoit une deuxième nomination à l'oscar pour son second rôle dans la comédie dramatique Milliardaire pour un jour de Frank Capra (1961).
Suivront La Grande Course autour du monde en 1965, comédie pour laquelle il est le faire-valoir hilarant de Jack Lemmon, et dont la complicité rappelle celle de Laurel et Hardy, Husbands en 1970, long-métrage qui marque le début d'une collaboration longue de plusieurs autres films avec son ami et réalisateur/acteur John Cassavetes (Une femme sous influence en 1974, Mickey and Nicky, en 1976, Big trouble en 1985). En 1979, son rôle récurrent dans la série des Columbo rattrape quelque peu sa carrière au cinéma lorsqu'il interprète l'inspecteur vedette du Privé de ces dames de Robert Moore, sorte de parodie de Casablanca et du Faucon maltais .
En 1987, il est le grand-père narrateur de la comédie fantastico-romantique Princess Bride de Rob Reiner. En 1992, il fait une très courte apparition dans The Player de Robert Altman. Puis en 2000, il est le père de David Paymer dans la comédie Enemies of Laughter de Joey Travolta (le frère de John). En 2002, il est à l'affiche d'Undisputed, drame musclé sur l'univers de la boxe en milieu carcéral, réalisé par Walter Hill, et dans lequel il est ‘Mendy' Ripstein, un vieux gangster qui organise un combat entre Wesley Snipes et Ving Rhames.