Après une longue discussion avec sa grand-mère, Jean Eustache a eu l'idée de filmer un long monologue de celle-ci qui lui raconterait sa vie. Odette Robert y raconte six générations de l'histoire de France. Numéro Zéro se voulait le film du renouveau pour Jean Eustache. D'où le titre choisi en hommage au Huit et demi de Federico Fellini.
Pour signer la photographie de Numéro Zéro, Jean Eustache a fait appel à son collaborateur habituel Philippe Théaudière. Ce dernier avait travaillé sur Les Mauvaises Frequentations (1963) et Le Pere Noel a les yeux bleus (1966).
Numéro Zéro à peine tourné, Jean Eustache projette le film chez lui à huit personnes. Il ne prévoit aucune exploitation en salle ou de projections en festival. Il veut que les spectateurs et les acheteurs manifestent leur volonté de voir le film d'abord. Trente années plus tard, Numéro Zéro n'a été diffusé que dans une version tronquée quand Jean-Marie Straub, qui faisait parti des huit spectateurs de 1971, repense à la grand-mère de Jean Eustache en montant Sicilia ! devant la caméra de Pedro Costa. Ce dernier décide alors de rechercher le négatif original du film avec l'aide de Thierry Lounas. Les deux hommes trouvent une copie que la cinémathèque portugaise restaure. Numéro Zéro ressort en salle en compagnie d'Où gît votre sourire enfoui ? de Pedro Costa en janvier 2003 à Paris.
Le tournage de Numéro zéro a eu lieu dans la maison de Jean Eustache où il vivait avec sa grand-mère. Odette Robert était filmée avec deux caméras, une fixe en plan large sans opérateur avec le cinéaste de dos au premier plan et une autre plus resserée sur la grand-mère. Elles avaient été placées précisement par Jean Eustache. L'équipe a dû tourner avec une pellicule particulière qui demandait peu de lumière afin de ne pas avoir à éblouir Odette Robert.
En 1980, Jean Eustache accepte pour des raisons financières de diffuser une version courte de 54 minutes de Numéro zéro dans le cadre de la série télévisée Grands-mères. Ce montage du film, le seul disponible jusqu'à aujourd'hui, est connu sous le titre d'Odette Robert.
Pour ouvrir son film Numéro zéro, Jean Eustache a demandé au cinéaste Adolfo Arrieta de tourner cinq minutes des plans de son fils Boris et de sa grand-mère allant faire des courses. Cette partie est totalement muette.