Après des études au Berklee College of Music de Boston, Howard Shore intègre le groupe canadien Lighthouse de 1969 à 1972 avant de se distinguer dans la célèbre émission Saturday Night live pour laquelle il écrit le générique et joue du saxophone. C'est à la fin des années 70 qu'il se tourne vers le cinéma et signe la bande originale de I Miss You, Hugs and Kisses de Murray Markowitz (1978).

La même année, il commence à travailler avec un réalisateur originaire lui aussi de Toronto, David Cronenberg (Chromosome 3). Les premiers films torturés du réalisateur lui permettent alors de se lancer dans diverses expérimentations participant ainsi à créer les atmosphères oppressantes de Scanners ou Videodrome.

Désormais lié au réalisateur canadien, pour qui il signera la musique de tous ses prochains films, Howard Shore se fait à nouveau remarquer en 1990 grâce au célèbre thriller Le Silence des agneaux où il met à profit toute son expérience de la tension et de l'angoisse. Récompensé à cette occasion par un Golden Globe, il se tourne alors vers des projets plus populaires, et travaille notamment avec Chris Columbus (Madame Doubtfire) et Tim Burton (Ed Wood). Il connaît une nouvelle consécration en 1994 en signant la musique de Philadelphia puis de Seven (1996), affirmant ainsi son éclectisme.

Alors qu'il poursuit ses collaborations avec David Cronenberg, il se lance dans le projet le plus ambitieux de sa carrière en composant la musique de la trilogie du Seigneur des Anneaux de Peter Jackson. Affinant ses partitions au fur et à mesure des trois films, ses thèmes épiques et empreints de mélancolie lui vaut l'Oscar de la meilleure musique pour La communauté de l'anneau en 2002 et Le retour du roi en 2004. Une oeuvre qui fait d'Howard Shore l'un des compositeurs actuels les plus appréciés du public.

Parallèlement, il écrit la musique d'une autre fresque ; celle imaginée par un autre réalisateur fidèle à sa musique, Martin Scorsese, dans Gangs of New York (2002). En 2006, il se joint à nouveau avec Peter Jackson pour King Kong, mais abandonne le projet suite à des divergences artistiques laissant sa place à James Newton Howard.

Travaillant parfois pour des productions françaises (L'Instinct de mort de Jean-Francois Richet), Howard Shore n'hésite pas à sortir des studios pour présenter ses oeuvres en public où il assure le rôle de chef d'orchestre. Il travaille actuellement sur un Opéra inspiré de La Mouche, mis en scène par David Cronenberg lui-même.