A l'origine, CBS veut adapter le Sherlock anglais pour une version américaine. La BBC et Steven Moffat sont ainsi approchés mais les discussions entamées tournent rapidement court, le créateur n'étant pas séduit par l'idée et trop occupé sur d'autres projets. La chaîne, croyant dur comme fer au concept, se tourne vers d'autres producteurs et Elementary prend forme peu à peu. Les anglais gardent toutefois un œil sur son avancement, prêts à se lancer dans une poursuite judiciaire en cas de ressemblances trop évidentes entre leur série et celle de CBS.
Si le Sherlock de Steven Moffat a déjà "rebooté" le personnage en le situant à notre époque, Elementary introduit plusieurs nouveaux éléments. L'intrigue du show met en scène Sherlock Holmes aux Etats-Unis, dans un New York contemporain. Et son acolyte le Dr Watson est pour la première fois interprété par une femme (Lucy Liu), au grand désarroi des puristes.
Sherlock Holmes, le célèbre personnage né en 1887 de l'imagination de Sir Arthur Conan Doyle, a connu de nombreuses adaptations au cinéma et à la télévision, immortalisé par de nombreux acteurs, tels que Christopher Lee, Jeremy Brett, Michael Caine ou encore Douglas Wilmer. La production d'Elementary choisit pour interpréter son Sherlock Holmes des temps modernes, le britannique Jonny Lee Miller, aperçu notamment dans la 5ème saison de Dexter et héros d'Eli Stone, la dramédie musicale diffusée sur ABC durant deux saisons entre 2008 et 2009.
Jonny Lee Miller et Benedict Cumberbatch, la star de Sherlock, sont des amis proches dans la vie et ont une expérience professionnelle en commun : ils ont tous les deux incarné en alternance le rôle du professeur Frankenstein sur les planches à Londres, dans une mise en scène signée Danny Boyle.