1941年9月，新四军军部命令，将第3师第9旅和第4师第10旅对调，第9旅归第4师建制，第10旅归第3师建制，旅、团番号不变。第10旅于9月由皖东进入淮海区，10月，第10旅兼淮海军区。

　　1942年1月14日，军部电示第10旅和新四军独立旅，要求抓住当时良好时机，“对敌伪据点采取逼攻”，以能逼走敌伪、争取伪军反正为主。对个别条件许可而又重要的据点可攻取，“但不能发展大规模的强攻，因不利于我之保持主力及坚持长期斗争。”【《新四军·文献》(3)，第409页。】4月，鉴于日伪加紧了对淮海地区的蚕食伪化活动，新四军军部于15日再次指示第10旅、独立旅：淮海区是“盐阜地区与皖东北、皖东、华北等地区之转运枢纽”，“应以积极坚决之动作，粉碎敌之企图”。【《新四军·文献》(3)，第433页。】遵照上述指示，第10旅和独立旅在淮海区展开了反日伪蚕食和伪化的斗争。11月，中共中央决定独立旅北返山东归建八路军。该旅在苏北地区近两年，作战150余次，歼敌4000余人。与此同时，根据中共中央精兵简政和主力地方化的要求，经中共中央华中局和新四军军部批准，淮海区划分为4个地区，淮海军区部队亦同时编组为4个支队，每个支队下辖3个小团。12月，成立苏北军区，领导机关由第3师兼，黄克诚兼司令员和政治委员，张爱萍兼副司令员，彭雄兼参谋长，吴法宪兼政治部主任。原盐阜、淮海军区改为军分区，第8旅兼盐阜军分区，第10旅兼淮海军分区。

　　1942年11月，日军为了巩固长江以北、陇海铁路以南、淮南铁路以东这片重要占领区，摧毁在这一地区的新四军领导机关和主力部队，决定调集兵力再次进行大规模“扫荡”。但由于兵力不足和供应困难，日军的这次“扫荡”只能分期进行。计划先由北部的淮海区和淮北区开始，紧缩对盐阜区的包围圈，而后南北合击，聚歼新四军于东海之滨。

　　11月14日，日伪军开始对淮海区实施“扫荡”。日军第17师团一部及伪军第36师等共7000余人，由淮阴、泗阳、新安镇(今灌南县治)、沭阳同时出动，直趋淮海根据地中心区，奔袭淮海军分区机关所在地沭阳小胡庄、张圩子等地。

　　新四军驻淮海区部队为避免与敌决战，决定以主力一部配合地方武装和民兵就地分散进行游击战，以疲惫、削弱敌人；其余主力分路隐蔽，伺机歼敌。其部署是：以沭阳独立团于小店子、塘沟、马渡一线，阻击与牵制北路之敌；以第7旅第19团于淮阴县丁集一带，阻击由淮阴出犯之敌；以第10旅第29团于涟水县杨口佯动，以迷惑敌人；淮海军分区机关及主力一部，从合围圈的间隙跳出，转移至泗(阳)宿(迁)地区。

　　日军合围小胡庄、张圩子扑空后，立即分路寻求新四军主力决战，仍无所获。于是，在淮涟及六塘河两岸地区反复“清剿”，并构筑据点，成立维持会，进行反共宣传，建立防共自卫队，实施各种伪化措施。(见附图18)

　　针对日伪加强伪化的阴谋，新四军军部于12月12日发出《关于淮海区斗争的方针》指示，要求第3师以主力加强地方武装，使主力地方化游击化，发动群众，依靠群众，以达到长期坚持淮海，保持苏皖联系和控制运河的战略目的。遵照军部的指示，转移至外线的军分区机关及主力陆续返回根据地，分散进行游击。他们派出便衣小分队，袭击日伪据点，截击分散之敌。第19团、第29团、各县独立团及民兵，到处打击出扰之敌，还先后攻克宋圩、姜圩、永兴圩、小钱圩、孟头庄、小金圩等据点，毙伤日伪军数百人。经过1个多月的斗争，把日伪军拖得精疲力竭，大部兵力陆续撤回原防。根据地逐步得到恢复。