La guerre en Pologne, qui commença en septembre 1939, prit au piège près de trois millions et demi de Juifs dans les territoires occupés par l’Allemagne et l’Union soviétique.

Cependant, à la fin de 1940 et au début de 1941, quelques mois seulement avant que les Allemands commencent le meurtre en masse des Juifs en Union soviétique, un groupe d’environ 2 100 Juifs polonais put trouver un lieu sûr. Peu d'entre eux y seraient parvenus sans les efforts inlassables de nombreuses personnes. Plusieurs organisations et communautés juives leur apportèrent une aide matérielle et financière continue.

Mais l'aide la plus décisive fut la plus inattendue : celle des représentants du gouvernement néerlandais en exil et d'un allié de l'Allemagne au sein de l'Axe, le Japon. Leur action humanitaire en 1940 constitua un acte de secours essentiel pour le sauvetage des réfugiés juifs polonais de passage en Lituanie.

C'est de là qu'ils se rendirent au Japon. Ils avaient entendu dire que le port franc de Shanghai était une ville surpeuplée, insalubre et ravagée par la criminalité. Ils n'en furent pas moins stupéfaits du spectacle qui s’offrit à eux lorsqu’ils débarquèrent dans la concession internationale de la ville. Des milliers de Chinois sans ressources y vivaient au sein d’une communauté étrangère dominée par une élite de riches commerçants et financiers britanniques et américains.

Les réfugiés trouvèrent également pour les assister une communauté bien établie de 4 000 Juifs russes et plus de 17 000 réfugiés juifs allemands et autrichiens qui avaient fui les persécutions nazies en 1938 et 1939. Ces derniers, pour la plupart, vivaient dans des habitations délabrées et surpeuplées. Les plus financièrement vulnérables logeaient dans des baraquements financés par l'organisation caritative juive américaine American Jewish Joint Distibution Committee (JDC). Malgré tout, ces premiers arrivants parvenaient à survivre, voire même à prospérer. Certains avaient ouvert des petits commerces ou des petites entreprises artisanales. D’autres étaient devenus entrepreneurs et propriétaires, transformant des pans entiers de Hongkew, une zone industrielle de la concession internationale qui avait été gravement endommagée par les combats sino-japonais en 1932 et 1937.

Après l’attaque japonaise contre Pearl Harbor et l’entrée en guerre des États-Unis, en décembre 1941, les réfugiés juifs furent immobilisés à Shanghai. Ils souffraient du manque de nourriture, de vêtements et de médicaments, qui venait s’ajouter au chômage et à l’isolement. Ils ignoraient tout de la situation de leurs familles. Avec la guerre, il devenait difficile de recevoir des fonds à Shanghai. La population sous-alimentée augmenta. Enfin, les réfugiés devaient également respecter les décrets japonais.

Après Pearl Harbor, les autorités japonaises à Shanghai imposèrent des mesures de sécurité plus strictes. Au début de 1943, les Japonais acceptèrent le fait que leur allié nazi avait dépouillé les Juifs allemands et autrichiens de leur nationalité et ordonnèrent aux nouveaux « apatrides » — notamment aux Juifs de Pologne — de s’installer dans un « quartier réservé » de la concession internationale. Beaucoup emménagèrent alors dans des appartements exigus situés dans des ruelles, souvent dépourvus de toilettes modernes. Chaque matin, des seaux d’excréments étaient vidés et emportés par des travailleurs chinois.

Le Service des réfugiés apatrides, dirigé par l’ancien officier de marine japonais Tsutomu Kobota, supervisait le quartier réservé, mais avait peu de contacts directs avec les réfugiés, qui détestaient et craignaient ses subordonnés Okura et Ghoya. Les restrictions de circulation et les privations liées à la guerre rendaient la vie pénible dans ce que les habitants appelaient le « ghetto de Shanghai », mais il n’y régnait pas la terreur quotidienne subie par les Juifs dans les ghettos d’Europe. Le traitement réservé aux Juifs de Shanghai par les Japonais fut relativement clément.

Les écrivains juifs polonais trouvèrent une expression en yiddish pour décrire Shanghai : « shond khay », une vie de honte. Et pourtant, dans cet environnement étranger et à l'écart de tout, la vie suivait son cours. Tant bien que mal, on lisait des poèmes, on publiait des journaux en yiddish et en polonais, on créait des œuvres d'art et on écrivait des pièces de théâtre. Malgré les problèmes logistiques et la censure japonaise, ces activités aidaient les réfugiés transplantés de Pologne à vivre.

Les Japonais interdisaient toute expression politique, mais les sionistes et les bundistes demeurèrent clandestinement actifs. Des étudiants de yeshiva (école talmudique) passèrent les années de guerre à poursuivre leurs études. Ils utilisaient les réimpressions des quelques livres emportés de Pologne ou reçus de partisans à l'étranger, comme le rabbin Kalmanovich de New York. À Mir, des élèves et des rabbins se rassemblaient dans la synagogue Beth Aharon, construite par l’un des membres les plus fortunés de la communauté juive séfarade de Shanghai. Après les vicissitudes du sort et les décisions de leurs dirigeants qui avaient amené les étudiants de Pologne au Japon puis à Shanghai, la yeshiva de Mir fut l’unique yeshiva européenne à survivre intacte à l'Holocauste.

Peu avant la fin de la guerre, un raid aérien américain sur la zone industrielle de Hongkew tua 40 réfugiés juifs, dont sept Juifs polonais, et plusieurs centaines de Chinois. L’entrée des troupes américaines à Shanghai fut accueillie avec une joie rapidement tempérée par les nouvelles de l'Holocauste. Depuis le printemps 1941, la plupart des réfugiés étaient restés sans nouvelles des proches qu'ils avaient quittés en Pologne occupée. Il fallut plusieurs mois encore pour découvrir ce qu'il était advenu de chaque parent et de chaque ami.