Le Grand Chantage est adapté de la nouvelle "Sweet Smell of Success" de Ernest Lehman. C'est l'auteur lui-même qui a écrit le scénario du film, et il a même été question que ce dernier le réalise. Finalement, le studio préféra confier le script à un réalisateur expérimenté, Alexander Mackendrick. Par la suite, Ernest Lehman a continué sa carrière de scénariste et a notamment écrit des films devenus cultes comme La Mort aux trousses (1959) de Hitchcock ou West Side Story (1962) et La Mélodie du bonheur (1965) de Robert Wise.
Avant Le Grand Chantage, Burt Lancaster et Tony Curtis s'étaient déjà croisés en 1949 dans Pour toi, j'ai tué. Mais Tony Curtis, alors débutant, n'avait pas été crédité au générique. Par contre, ils ont partagé de façon égale l'affiche de Trapeze en 1956. Ils se sont également retrouvés une dernière fois en 1963 dans Le Dernier de la liste où les acteurs principaux, déguisés, sont méconnaissables.
Dix ans après Le Grand Chantage, Tony Curtis a retrouvé le réalisateur Alexander Mackendrick dans une comédie californienne, Comment réussir en amour sans faire de vagues.
Les morceaux de jazz que l'on peut entendre dans Le Grand Chantage sont extraits de l’œuvre de Chico Hamilton, bien connu des amateurs du genre.
Le film a été tourné à la fin de l'année 1956 à New York, principalement en extérieur et dans des lieux très fréquentés. Le tournage n'a ainsi pas été de tout repos, car de nombreux fans, notamment de Tony Curtis, ont souvent tenté de passer outre les barrières policières pour apercevoir leur idole.
Le personnage de JJ Hunsecker, joué par Burt Lancaster, est inspiré de Walter Winchell. Ce dernier fut le chroniqueur mondain le plus craint et le plus influent des années 40 et 50, avant de tomber en disgrâce.
Le comédien Robert Vaughn devait tenir le rôle de Steve Dallas, mais il fut appelé par l'Armée avant le début du tournage. C'est Martin Milner qui fut choisi pour le remplacer.