Si Dick Van Dyke avait tenu quelques petits rôles auparavant, c'est à la comédie musicale Bye, Bye, Birdie et à son adaptation cinématographique en 1963 qu'il doit sa notoriété. Un an plus tard il se fait connaître du grand public en jouant dans le film culte signé Disney, Mary Poppins. Il enchaîne alors les rôles dans des comédies tels que Fitzwilly (1967) ou Chitty Chitty Bang Bang (1968) et jongle avec une carrière télévisée en participant à de nombreuses séries dont le culte Dick Van Dyke Show ou encore aux côtés de son fils Barry Van Dyke dans Diagnostic : Meurtre de 1993 à 2001.
En 1990, il joue dans le film de et avec Warren Beatty Dick Tracy aux côtés de grands acteurs tels que Al Pacino et Dustin Hoffman. Ne s'éloignant jamais des univers enfantins, Dick Van Dyke prête sa voix à plusieurs personnages d'animation comme à Tubby le Tuba en 1976, au Commissaire Gordon dans Batman : New Times en 2005 et à Mr Bloomsberry dans Georges le petit curieux un an plus tard. La même année, il incarne Cecil Fredericks aux côtés de Ben Stiller dans la comédie de Shawn Levy, La Nuit au musée.
Il reprend son rôle culte de Dawes dans Le Retour de Mary Poppins, la suite du premier film, produite par Disney en 2018.