Lorsque les Allemands envahirent la France en mai 1940, environ 175000 Juifs habitaient la capitale ou y avaient trouvé refuge. Nombre d'entre eux avaient déjà fui la ville pour n'y retourner qu'après la signature de l'armistice, en juin, lorsque Paris devint le siège de l'administration militaire allemande. La majorité des Juifs parisiens vivaient dans les 4e, 11e, 18e et 20e arrondissements. Fin septembre 1940, un recensement allemand en enregistrait 150000, dont 64000 étrangers.

La persécution des Juifs de Paris débuta en octobre 1940, quand les Nazis firent exploser sept synagogues de la ville. Theodor Dannecker, de la police de sécurité allemande et « expert en questions juives », ordonna une série de mesures antijuives, notamment la centralisation des organisations juives et l'« aryanisation », ou transfert des commerces juifs. Au cours des années 1940-1941, les Allemands arrêtèrent 10000 Juifs à Paris. À peu près autant avaient fui la ville en direction du sud, vers la zone libre. En 1942, les Allemands, avec l'aide de la police française, entamèrent la déportation systématique des Juifs étrangers et apatrides vers les camps de transit de Drancy, Beaune-la-Rolande et Pithiviers. De là, ils les emmenèrent dans des centres de mise à mort.

En juin 1942, on ordonna aux Juifs de Paris de porter l'étoile jaune pour mieux les identifier. À la mi-juillet, la police française regroupa 13000 Juifs au Vélodrome d'Hiver (le « Vél' d'Hiv' »), un stade dans le sud-est de la ville. Après des jours de détention sans rien à boire ou manger, ils furent déportés vers Auschwitz-Birkenau, en passant par Drancy. Si des milliers de Juifs avaient pu se cacher, ce sont près de 30000 d'entre eux qui furent emmenés au cours de l'année 1942. À la mi-1943, il en restait 60000. Puis les Allemands se mirent aussi à déporter les pensionnaires d'orphelinats, de crèches et d'hôpitaux. Début 1944, ce fut le tour des citoyens juifs français.

Paris servit de refuge, mais aussi de point de départ vers la province ou vers l'Espagne, le Portugal et la Suisse, pays neutres. Au moins 3000 Juifs turcs, hongrois et italiens furent rapatriés. Beaucoup rejoignirent la Résistance. De nombreuses organisations juives clandestines ou semi-clandestines vinrent au secours des Juifs à Paris, comme la Solidarité communiste, le Comité Amelot, l'OSE (Œuvre de secours aux enfants) et d'autres groupes sionistes clandestins.

Les forces alliées libérèrent Paris le 25 août 1944. Au moins 50000 juifs parisiens, pour la plupart nés à l'étranger, avaient été déportés et exterminés.