Federico Fellini a rejoint Sergio Amidei sur l'écriture du scénario en cours de route, après qu'Alberto Consiglio eut abandonné le projet. Fellini co-signera les scénarios de plusieurs futurs films de Roberto Rossellini : Paisa, Les Onze Fioretti de Francois d'Assise, Europe 51, Amore.
Au départ, Rome ville ouverte devait être un documentaire sur Don Giuseppe Morosini, un prêtre italien fusillé en mars 1944 par les Allemands. Roberto Rossellini avait également eu l'idée de réaliser un film sur des enfants italiens partisans qui ont été actifs contre les Allemands.
Pour la mort tragique du personnage de Pina, Roberto Rossellini s'est inspiré d'un fait réel qui eut un grand retentissement en Italie : l'assassinat en pleine rue, par les Allemands, d'une Romaine, Teresa Gullace, le 3 mars 1944. Par ailleurs, le cinéaste s'est inspiré du partisan Cesare Negarville, que son ami Sergio Amidei avait logé pendant la guerre, pour créer le personnage de l'ingénieur communiste Giorgio Manfredi.
Roberto Rossellini réalisa des films dans le cadre de la cinématographie propagandiste du régime fascite, de 1941 à 1943. Lorsque le pouvoir de Mussolini s'effondre en 1943 et que l'Italie est libérée par les Alliés, Rossellini prend ses distances avec la cinématographie officielle et s'engage, de 1944 à 1948, dans la réalisation de films à la gloire du combat du peuple et de la résistance italienne contre l'idéologie fasciste et nazie. Même s'il y a un antagonisme idéologique - souvent dénoncé - entre l'oeuvre " fasciste " de Rossellini et son oeuvre " néo-réaliste ", nombre d'historiens du cinéma, ainsi que le cinéaste lui-même, s'accordent à penser qu'il y a une continuité formelle, notamment par l'option réaliste des faits qu'elles représentent.
Roberto Rossellini ne dispose que de très peu de moyens financiers et techniques, le contraignant à acheter sa pellicule au jour le jour, au noir ou à des Américains réalisant des films d'actualité sur la guerre. Le cinéaste a dû vendre une partie de ses biens pour boucler le budget. Il filme même à l'aveugle, c'est-à-dire sans faire développer les scènes enregistrées dans la journée.
L'actrice Anna Magnani connut grâce au film un triomphe mondial. On la retrouvera à plusieurs reprises dans le registre de la femme combative et entêtée, notamment dans Bellissima (1951) de Luchino Visconti. Elle retrouve également le réalisateur Roberto Rossellini dans Amore (1948) et Nous les femmes (1953) avant de s'engager dans une courte mais intense carrière à Hollywood : La Rose tatouée (1955) où elle obtint un oscar aux côtés de Burt Lancaster L'Homme à la peau de serpent (1960) de Sidney Lumet où elle interprète une femme mariée à un infirme despotique aux côtés de Marlon Brando et Car sauvage est le vent (1957) de George Cukor.
Rome ville ouverte est traditionnellement considéré comme l'acte de naissance du "néo-réalisme italien". Ce mouvement artistique et politique, qui s'étendit du milieu des années 40 au milieu des années 50, bénéficia d'un retentissement considérable dans le monde entier. Il ne peut être compris que dans le contexte d'une Italie fragilisée par la guerre et le régime de Mussolini. Après dix ans de fascisme, pendant lesquels le cinéma italien fut mis au service de la propagande à travers des grosses productions allégoriques et coupées du réels (mouvement dit du "calligraphisme", qui s'attachait essentiellement à la forme picturale au mépris de tout souci réaliste), les cinéastes ressentent le besoin de s'émanciper. Aussi braquèrent-ils leur caméra sur la réalité sociale d'après-guerre avec un regard brut, immédiat et sans artifice.
Si Rome ville ouverte est le manifeste officiel du néo-réalisme, le mouvement puise toutefois sa source dans plusieurs expériences antérieures. Le cinéma réaliste italien d'avant 1915 (lui-même inspiré du "vérisme", courant italien dont le romancier Giovanni Verga fut le plus illustre représentant à la fin du XIXème siècle) ouvrait la voie tandis qu'au début des années 1940, plusieurs films portèrent un regard attentif sur le réel : Quatre pas dans les nuages (1942) d'Alessandro Blasetti, Les Enfants nous regardent (1944) de Vittorio De Sica. Mais c'est Ossessione (1943) de Luchino Visconti qui marque un véritable tournant annonciateur ; le film est une adaptation du roman Le Facteur sonne toujours deux fois fortement ancrée dans la réalité sociale italienne. C'est d'ailleurs à l'occasion de ce film que le terme de "néoréalisme" fut lancé par le chef monteur lorsqu'il visionnait les rushes.
Le scénariste Cesare Zavattini, qui travailla sur plus de vingt-cinq films de Vittorio De Sica, fut le théoricien du néo-réalisme. Il en définit ainsi les rèlges : " approche minutieuse de la réalité sociale, refus du romanesque, emploi systématique du décor naturel et emploi de l'interprète non professionnel ". Malgré leurs vues divergentes, plusieurs réalisateurs se revendiquèrent de ce mouvement : l'humaniste Vittorio De Sica avec Sciuscia (1946) ou Le Voleur de bicyclette (1948), le marxiste-matérialiste Giuseppe de Santis avec Riz amer (1949) ou Paques sanglantes (1950) ou encore le marxiste-esthète Luchino Visconti avec Bellissima (1951) et Les Vitelloni (1953).
Le tournage commence en janvier 1945 et se termine l'été suivant. Faute de moyens, il est effectué sans enregistrement sonore ; le film sera post-sonorisé. Les prises de vues se déroulent dans un studio improvisé - le local desaffecté d'un ancien manège. L'électricité a même été détournée du local du journal américain aux armées qui se trouve à proximité.
Avant le tournage, Roberto Rossellini avait signé un contrat avec la société de distribution italienne Artistes Associés. Une fois le film tourné, cette société refusa d'honorer son contrat au prétexte que le film s'apparentait davantage à un reportage qu'à une oeuvre de fiction. Le cinéaste réussit à vendre les droits à Minerva Films ainsi qu'à Rod Geiger, un soldat américain intéressé par la production.
Roberto Rossellini réalise ce film seulement deux mois après la libération de Rome, sur un scénario qu'il a imaginé au rythme même des évènements qui précèdèrent cette libération. Cette démarche a souvent valu au film d'être qualifié " d'actualité immédiatement reconstituée ".
C'est Renzo Rossellini , le frère du cinéaste, qui a composé la musique du film. La collaboration entre les deux frères sera fructueuse puisque Renzo signera la musique d'une vingtaine de films de son frère, dont Allemagne annee zero, Paisa ou encore Stromboli.