犹太人是这个世界上公认的最聪明的种族之一，爱因斯坦，冯诺依曼，奥本海默都是犹太人，而且犹太商人也遍布世界，占据了世界大量的的财富，但这个种族却遭到了希特勒的反感。二战期间，希特勒对犹太人展开了疯狂的屠杀，犹太人在欧洲面临生存的威胁，犹太民族甚至有了被灭族的风险，无奈之下，犹太人只好向世界各地流亡，而中国上海成为其中最重要的流亡地。
当时上海有一个得天独厚的条件，即它是一个不需要签证就可以自由进入的城市。上海自清朝末年就出现的租界完全由西方人管理，中国政府无权管辖，所以被称为“国中之国”。中国人不能随便进入，但是西方人却可以自由进出。1937年，日军侵入上海后占领了非租界区。此时，中国政府撤出，汪伪政权尚未建立，而英法等国只是租界的管理者，并没有权力发放签证，如此这般，租界就形成了三不管的局面。这无形中为慌不择路的犹太难民打开了方便之门。越来越多的被逐犹人挈妇将雏，不远万里，辗转逃亡到上海，将其当做第二故乡，据统计高峰时期在沪犹太人超过2万人。
犹太难民的境况引起租界内外各界人士和中国民众的同情，中华济难总会等慈善机构几次发动人民为犹太难民募捐。上海租界里的犹太侨民也几乎都坚定地支持中国军民的抗战，他们经常参加美、英等国侨民的集会和示威游行，犹太人社团也多次单独发起声援中国的活动，犹太侨领艾尔克曼几次在租界内的报刊上撰文直斥日军侵华犯下的罪行。国民政府亦有一个中国版的“东方以色列计划”。1939年2月，时任立法院院长的孙科正式提出议案，建议在大后方云南划定犹太人聚居区。此建议得到德籍犹太实业家拜尔格拉斯响应，他拟订计划，初步设想将十万人移居中国。只是还在讨论之时，战事日益艰苦，中国自身难保，沿海城市全部失陷，大规模收留犹太人的计划终未能实施。
当时为破坏中国的犹太人安置计划，日本人也曾制定过相关的对犹政策，他们曾制定了一个叫做“河豚鱼计划”的阴谋。阴谋旨在全球各地的犹太人立即开始向中国东北大转移行动，颠峰时期，在整个东北犹太人大量蜂拥而至，仅哈尔滨一地就有近三万犹太人。 抗战胜利后，中国收回了租界，但是不久内战爆发，经济恶化，犹太民族转而寻求在中东建国。
1948年5月14日，以色列国正式宣布成立。以色列国是建立在别人的国土之上，年年战争不断，而后向散居在全球各地的犹太人发出回国号召，希望可以回国建设家园。这些都促使滞留中国的犹太人加速离开中国大陆。
另外，新中国成立后，开始实行社会主义改造，社会丧失了商业空间，犹太人几乎走光，但因当时新中国实行一边倒向苏联的外交政策，还留下了少数俄国犹太人。到了三年饥荒、中苏交恶及至文革爆发，剩下的这点犹太人也全部跑光了。改革开放后，才陆续有犹太人来沪经商、留学，但已谈不上聚居。上海犹太人如今建立了颇多国际联谊组织，较为知名的是总部设在以色列首都特拉维夫的“前中国居民协会”，其成员70%来自上海。这些组织时不时举办些纪念活动，缅怀上海时光。