Acteur de théâtre, Jacques Boudet connaît notamment un grand succès dans les années 80 avec Exercices de style de Queneau, dans une mise en scène de Jacques Seiler. Mais il apparaît sur grand écran dès 1971 dans la comédie La Coqueluche, et multipliera ensuite les petits rôles. On le retrouve dans plusieurs oeuvres marquantes du cinéma français, telles que L' Important c'est d'aimer de Zulawski et Une étrange affaire de Granier-Deferre. En 1984, il incarne le Duc de Guermantes dans Un amour de Swann, l'adaptation par l'Allemand Schlöndorff de l'oeuvre de Proust.
Jacques Boudet travaille avec des cinéastes aussi prestigieux que Blier, Tavernier, Lelouch ou Besson, mais c'est grâce au conteur de l'Estaque, Robert Guédiguian, qu'il accède à la notoriété. Le comédien intègre la "famille" du réalisateur marseillais dès le deuxième long-métrage de celui-ci, Rouge midi en 1983, et on retrouvera ensuite sa verve et sa bonhomie dans la quasi-totalité de ses films. Il forme ainsi avec Pascale Roberts un couple tendre et facétieux dans Marius et Jeannette et La Ville est Tranquille. Vieux loup de mer aux faux-airs de Philippe Noiret - dont il campe d'ailleurs le frère dans Père et fils de Michel Boujenah, il retrouve en 2004 son réalisateur-fétiche pour Mon père est ingénieur, dans lequel il a pour fille la muse du cinéaste, Ariane Ascaride.
En 2006, il est le sénateur mafieux s'opposant à Isabelle Huppert confrontée à L' Ivresse du pouvoir chez Claude Chabrol. Pour Olivier Nakache et Eric Toledano, il interprète le père accaparant de Jean-Paul Rouve dans Nos jours heureux, et tiendra un rôle similaire trois ans plus tard (toujours avec Rouve) dans Le Coach. Sophie Marceau fait appel à lui pour son deuxième long-métrage en tant que réalisatrice : La Disparue de Deauville (2007), puis il joue le père de la "blanche devenue noire" Agathe Cléry. Il participe à Lady Jane, nommé à l'Ours d'or de Berlin, avant d'interpréter à nouveau un père : celui de Jacques Gamblin dans Le Nom des gens de Michel Leclerc.