Fils de parents divorcés, Claude Piéplu passe son certificat d'études puis travaille comme grouillot dans une banque. Mais il ne tarde pas à bifurquer vers l'activité qui l'attire dès son plus jeune âge : la comédie. Se formant auprès de Maurice Escande, il débute sur les planches en 1944 aux Mathurins aux côtés de Gérard Philipe et Maria Casarès dans Federigo de Mérimée et intègre bientôt la compagnie Renaud-Barrault. C'est d'ailleurs dans D'homme à hommes, un film dont Jean-Louis Barrault tient la vedette, qu'il fait sa première apparition au cinéma en 1948. Mais le comédien se consacre essentiellement au théâtre, notamment au sein de la compagnie de Jacques Fabbri à la fin des années 50.
A partir des années 60, la silhouette de Claude Piéplu, quelque part entre le hibou et le matou, se fait plus présente dans le cinéma comique français. L'acteur incarne en 1961 un notaire dans La Belle Américaine de Robert Dhéry avec Louis De Funès, comédien qu'il retrouvera à plusieurs reprises, du gendarme de Saint-Tropez à Rabbi Jacob en passant par Hibernatus. Mais sa célébrité, Piéplu la doit surtout à sa voix, et à un programme télévisé lancé à la veille de Mai 68, qui fit du bruit dans les chaumières : les Shadoks. Dans cette série animée, l'acteur se fait le commentateur des faits et gestes de drôles de bestioles appelées Shadoks (à ne pas confondre avec les Gibis), nées de l'imagination de Jacques Rouxel (lui-même décédé il y a quelques mois), et dont la principale activité est de pomper. Nombre de téléspectateurs sont scandalisés devant tant de non-sens, mais on ne compte plus aujourd'hui les nostalgiques de ce programme qui ressemblait à l'acteur : drôle, libre, anticonformiste.
En toute logique, ce sont des maîtres de la subversion qui offrent à Piéplu deux de ses rôles les plus marquants dans les années 70 : Chabrol lui fait jouer un notable cocu dans Les Noces rouges et Buñuel un colonel excentrique dans Le Charme discret de la bourgeoisie –les rôles de militaire et garde-chiourme en tous genres sont légion dans la carrière de l'acteur (Le Pistonné, La Meilleure façon de marcher). Il tourne avec la plupart des artisans du cinéma populaire, les Mocky, Berri, Zidi (La Moutarde me monte au nez) et autres Yves Robert, mais travaille également avec Becker, Duvivier, Blier, Costa-Gavras (Section spéciale), Polanski (Le Locataire) ou Deville : il est un des quatre étranges joueurs de bridge du Paltoquet, prestation qui lui vaut une nomination au César du Meilleur second rôle en 1987. A la même époque, il est sollicité par de jeunes auteurs singuliers (Davila, Frot-Coutaz), tandis que le grand public le retrouve dans les films de Jugnot ou sur le petit écran (il est le très distingué "homme aux clés d'or" de Palace). Si sa dernière apparition au cinéma date de 1999 (en druide Panoramix dans le premier Astérix), ce citoyen engagé continuait, quelques mois avant sa mort, de défendre sur scène les textes d'auteurs contemporains.