1941年1月6日，安徽省泾县茂林地区，国民党第三战区7个师8万多人突然向奉命北撤的新四军军部及所属部队9000余人发动袭击。激战七昼夜后，新四军除2000余人突围外，军长叶挺被扣，副军长项英遇害外，其余指战员全部壮烈牺牲或被俘。1943年被囚于湖北恩施的军长叶挺说：“遵照党中央的指示去工作就能取得胜利，否则必遭失败，这是一条真理。”这是叶挺的肺腑之言，也是他对皖南事变中新四军惨痛教训的一个总结。因为当时党中央对皖南事变的发生是有预见的，而党中央对时局的正确预见直接来自当时负责中原局事务的刘少奇同志的分析报告。
日军在1937年12月13日占领国民政府首都南京后，继续大举西进，1938年10月占领武汉。国民政府军队节节败退，致使中原和江南大片国土沦丧。因此，在这些沦陷区开展游击战争，建立新的根据地，不仅可以有效打击敌人，还能为巩固华北敌后根据地提供有力支持。为此，中共中央在1938年9月至11月召开的六届六中全会上作出“巩固华北，发展华中”的决定。11月9日，中央政治局任命刘少奇为中原局书记，领导长江以北河南、湖北、安徽、江苏等地的敌后抗战工作。
1938年12月，汪精卫等国民党要员公开投降日本，以蒋介石为首的国民政府也开始走上了消极抗战的老路。1939年1月，国民党五届五中全会制定了“溶共”“防共”“限共”“反共”的反动方针。1940年春节后，国民党顽固派把反共的重点转向了华中。
1939年9月15日，刘少奇参加完在延安召开的政治局会议后，再次前往中原局机关所在地河南省确山县竹沟镇。由于国共矛盾的加剧，处在国民党控制区的竹沟镇形势极为严峻。刘少奇审时度势，毅然决定将中原局领导机关从竹沟镇撤离。11月11日，确山县县长许工超纠集国民党顽固派军队袭击竹沟镇，制造了抗日军民死亡200多人的“竹沟惨案”。刘少奇的明智决定，将这一惨案的损失降到了最低点。任质斌后来回忆说：“他督促的很紧，叫我们赶快行动”，“当时如果不是少奇这样及时督促、部署（中央当然也有这个精神），那我们到敌后去的自觉性不会有这么高，可能会受到更大的损失”。
经过这次惨痛的教训，在1939年11月11日给中共中央书记处的电报中，刘少奇一方面肯定了在豫皖苏边坚持抗日的重要性，另一方面也指出了今后发展的方向：“在苏北，我们活动的可能性更大，更可放手。”提出今后发展的主要方向应该是苏北。
苏北地区位于黄河西，长江北，山东南，处于南京、上海、徐州等中心城市的侧背面，地域辽阔，物产丰富，交通便利，贸易发达。日军西侵时，在苏北只留了少数兵力，且大都驻守在重要城市和交通要道，无力控制广大农村地区。国民党顽固派韩德勤部虽有数十万人，但其内部矛盾重重，战斗力极差。而控制了苏北，即可打通与山东根据地的联系。因而向苏北发展，“不仅政治上有利，军事上也有利”。
中共中央对刘少奇发展苏北的想法给予了肯定，电令皖南的项英：“陈毅部队，应当加紧向苏北发展。”同时，刘少奇也致电项英，希望能抽调皖南新四军“以依靠豫东、皖东北雪枫、爱萍地区向苏北发展”。然而，项英不仅拒绝刘少奇与中央的建议，还接受国民党的要求，要求已经在江北活动的叶飞，张道庸两部回撤皖南。刘少奇尖锐地指出：“这是（国民党）消灭我军之毒辣计划，我坚决不同意江北任何部队南调。”中共中央同意刘少奇的意见，再次致电项英：“叶、张两团以留在江北发展为适宜。”
面对项英对国民党的偏信和对时局判断的优柔，1940年6月，驻在苏南的陈毅、粟裕，不顾项英的一再阻挠，独自带领新四军三个团渡江北上，同江北新四军会合。在刘少奇的积极运作下，1940年11月17日，华中新四军、八路军总指挥部正式成立，中原局统一了华中武装力量的指挥。
1940年11月，国民党汤恩伯部9个师和安徽李品仙部4个师共15万人，分别向皖东、淮北发动进攻，国民党决心要消灭苏皖共产党部队。毫无回旋余地的皖南新四军处境危险，刘少奇再次致电项英，建议皖南部队迅速北移。像这样建议皖南新四军北移的到皖东、苏北的电报，刘少奇已致电项英和中央数十次，而中央也多次致电项英率部“速速过江”，但项英对国民党心存侥幸，一直犹豫不决，迟迟不愿离开皖南。1941年1月6日，惨剧终于发生。
皖南事变发生后，“中央决定在政治上、军事上迅即准备做全面大反攻，救援新四军，粉碎反攻高潮”。刘少奇收到中央电报后，冷静分析利弊后认为，“全国局面，国民党未投降，仍继续抗战，对共产党仍不敢分裂……我党亦不宜借皖南事件与国民党分裂。”
刘少奇的建议对中共中央正确作出处理皖南事变的决策起了重要作用。
1941年1月17日，国民政府军事委员会发布通令，诬蔑新四军为叛军，宣布撤销新四军番号。对此，刘少奇当天就致电中央，提议在苏北重建新四军军部。
1月20日，中共中央军事委员会发布重建新四军军部命令，任命陈毅为代理军长，刘少奇为政治委员。1月25日，新四军军部在苏北盐城宣告成立。