Né de parents avocats, le jeune Harry Connick Jr. est rapidement passionné par la musique. Il joue du piano dès l'âge de trois ans et devient vite un surdoué de l'instrument. Particulièrement attiré par le jazz, il signe son premier album à 19 ans après avoir suivi les cours du New York's Hunter College et de la Manhattan School of Music. Harry Connick Jr s'impose alors rapidement comme une star internationale du swing, parcourant les scènes du monde entier et composant de nombreux albums.
Son premier contact avec le cinéma intervient en 1989, lorsqu'il est engagé pour composer la musique du classique de la comédie romantique Quand Harry rencontre Sally. Un an plus tard, il apparaît pour la première fois à l'écran dans Memphis Belle, puis enchaîne avec Le Petit homme de Jodie Foster. S'il poursuit sa brillante carrière de musicien en promenant sa gueule d'ange aux quatre coins du globe, Harry Connick Jr. voit dans le cinéma un terrain de jeu lui permettant de casser un peu son image très polie. C'est franchement le cas en 1995, quand il incarne un inquiétant serial-killer dans Copycat et terrorise Sigourney Weaver.
Après s'être illustré dans la superproduction Independence Day, Harry Connick Jr. se fait plus rare sur grand écran. Il apparaît ainsi dans des productions modestes et il faut attendre le Basic de John McTiernan, en 2003, pour que son nom rime à nouveau, véritablement, avec cinéma. De 2002 à 2006, cet artiste complet à la carrière atypique rencontre un succès certain en jouant dans la série Will & Grace. Après avoir figuré au générique de l'oppressant Bug de William Friedkin, puis à l'affiche de la comédie dramatique P.S. I Love You, aux côtés d'Hilary Swank et Gerard Butler, il endosse en 2011 le rôle du Dr. Clay Haskett dans deux films pour enfants en 3D, L'Incroyable histoire de Winter le dauphin et sa suite.