1944年4月，日军发动河南战役，调集5个师团、1个坦克师团又5个旅团的兵力，由豫北、晋南向郑州及其以南的平汉铁路沿线和洛阳等地的国民党军大举进攻，5月9日占领河南境内的全部平汉铁路，25日攻陷洛阳。国民党军汤恩伯等部40万大军，未能阻止日军的进攻，37天内失城38座，使河南广大地区沦入敌手。河南会战暂告一段落。日军一面作局部东撤，诱胡宗南部东出潼关，以图再歼，一面积极修复平汉铁路，确保占领，但日军的进攻重心已转向攻略粤汉铁路。

　　为打击进攻正面战场的日军，拯救沦陷区人民，发展河南敌后抗战的新局面，从战略上建立起华中、华北、陕北三大战略区之间的联系，中共中央于5月11日电示华中局、北方局、冀鲁豫分局和鄂豫边区党委：“应分担发动与指导河南及皖北人民抗日游击战争的任务。中央决定：在郑州以西地区，由北方局负责；平汉路以东之豫东地区，由冀鲁豫分局负责；豫南及皖北地区，由华中局及豫鄂边区党委与淮北区党委负责。”【《新四军·文献》(4)，第301页。】要求各地迅速派出干部党员深入敌后，组织和领导河南人民抗日游击战争。6月23日，在延安的刘少奇、陈毅致电新四军军部和第5师指出：“5师今后发展方向应该确定向河南发展，完成绾毂中原的战略任务”；在目前，第5师和第4师应着手向豫境发展的准备。【《新四军·文献》(4)，第303页。】7月25日，中共中央又发出向河南敌后进军的部署：以八路军太岳军区2个团，南下开辟豫西抗日根据地；冀鲁豫军区1个营，加强睢(县)杞(县)太(康)阵地，扩大豫东抗日根据地；新四军第5师抽7个连沿平汉铁路线向河南发展；第4师抽5个团兵力，进入永城、夏邑、萧县、宿县地区，建立阵地，打通与睢杞太的联系，并相机控制新黄河以东地区。同日，中共中央颁发了发展河南敌后工作的政策指示，指出入豫部队要善于插入敌顽空隙，在日伪区及其边沿建立抗日秩序。对国民党军李品仙、陈大庆、何柱国3个集团的地区不应主动楔入，如其向我进攻，才可举行严正自卫。发展新区首先着重政治宣传，争取同情，建立武装，扩大武装，以自己的军政力量扫除阻碍，使局面初定，即转入组织和领导群众斗争，以建立根据地，这个步骤不宜先后倒置。迅速发动群众抗日运动和减租减息运动，严格群众纪律，与人民同甘苦，为人民多做好事。积极开展统一战线工作，严格执行各项政策，团结和争取新区各种武装、进步人士、开明士绅、技术人才和知识分子共同抗日【《新四军·文献》(4)，第310、第311页。】。

　　第4师西进，恢复豫皖苏边区。豫皖苏边区原为新四军第4师前身游击支队(第6支队)创建的抗日根据地。由于国民党顽固派的进攻，第4师于1941年5月撤出。当地的共产党组织和活动于萧(县)铜(山)、宿(县)南地区的游击武装，在极端艰难的条件下，坚持了斗争，建立了小块抗日游击根据地。根据中共中央发展河南的部署，中共中央华中局和新四军军部确定：以第4师主力5个团执行西进任务，2个团配合地方武装和民兵坚持淮北路东根据地；调第3师第7旅和第1师第18旅第52团进入淮北路东地区作为机动力量。第4师领受任务后，传达了中共中央关于发展河南敌后的方针和政策指示，进行了动员教育，补充了兵员、装备，准备了1个月的粮款，抽调了一批地方党政干部随军西进。

　　1944年8月15日，第4师师长彭雪枫、参谋长张震、政治部主任吴芝圃率第11旅第31、第32团，第9旅第25团和骑兵团及萧铜独立团1个营，由泗南、泗宿地区西进，直捣萧(县)永(城)地区。20日，以宿东游击支队和泗五灵凤【泗五灵凤，是新四军第4师在安徽省泗县、五河、灵璧、凤阳四县交界地区建立的县级行政区。】独立团1个营，由灵北等地西进宿西、宿(县)蒙(城)怀(远)地区，策应主力作战。21日，西进部队主力前哨部队进入永固、梧桐之线时，据守在萧县以南小朱庄的国民党军一再拒绝西进部队提出的团结合作抗日的建议，无理阻拦第4师部队西进。23日，第11旅被迫对小朱庄展开攻击，全歼国民党苏北挺进军第40纵队1500余人，其中击毙纵队司令王传绶以下354人，俘纵队副司令以下1040人。打开了西进的通道。同时，争取了第28纵队第3支队支队长吴信元率部1700余人起义，并将其改编为萧县独立旅，吴信元任旅长。25日，第11旅及第25团乘胜向西进击，将窜到永北僖山、保安山一带的第28纵队击溃。该纵队司令刘子仁率余部继续向西逃窜。26日，西进部队主力尾追至亳县东白庙、武河沿附近，乃停止追击。

　　西进部队刚进入萧永地区，驻萧铜日伪军立即组织2000余人跟踪“扫荡”。西进部队奋勇迎战。9月2日，在大魏庄歼伪军1个小队。4日，攻克黄庄据点，歼伪军90余人。6日，又攻克永东菊集伪军据点。骑兵团1个区队在和宿东游击支队联络途中，攻克了北马庄伪军据点。在西进部队声威震慑下，伪军又放弃了秦破楼、陈庄、小胡庄等据点。永东、宿西的局面随之打开。

　　至此，西进部队恢复了萧永宿地区，随即大刀阔斧地恢复政权，发动群众，建立地方武装，争取和团结各界人士共同抗日。至9月上旬，建立了萧县、永城、宿西3个县和15个区的抗日民主政权，组织了千余人的地方武装，初步巩固了萧永宿地区，为继续西进创造了有利条件。

　　当新四军第4师西进部队控制萧永宿地区后，国民党第1战区企图乘新四军西进部队立足未稳，重新占领该地区，命令暂编第1军军长王毓文统一指挥4个师和7个纵队，南以涡河南主力3个师及4个纵队，北以陇海铁路北苏北挺进军所属耿继勋、刘瑞歧残部，东以津浦铁路东第33师段海洲部、第14纵队苗秀霖部，西以永城西第28纵队刘子仁余部，以压倒优势的兵力，四面合击第4师西进部队。为粉碎这一进攻，中共中央军委于9月10日电告新四军：对来攻顽军，应采取各个击破的方针。命令西进部队就地布置战场，准备迎击来犯之顽军；淮北津浦路东部队，待段、苗部西犯时，派得力部队尾进，配合西进部队将段、苗部消灭于萧永地区；第3师第7旅进入泗南、灵璧之线，准备必要时越过津浦路增援；在宿西的宿东游击支队应加强活动，牵制涡阳、蒙城地区之顽军；八路军冀鲁豫军区以最大速度调集部队，向南进击耿、刘残部，打通与萧永地区的联系；水东地区部队就地开展游击，牵制涡南顽军北进。

　　第4师西进部队为避免被夹击的危险，于9月11日集中第31、第25团及骑兵团3个团，首先在夏邑太平集以东八里庄、小楼子、张庄一线，全歼顽第28纵队第1支队李光明部千余人，其中俘支队长以下564人。12日，顽军段、苗部6个团由津浦路东高楼、渔沟出动西犯。新四军以第7旅第19、第20团，第9旅第26、第27团和第1师第18旅第52团共5个团，由彭明治、韦国清指挥，在宿县东北周场、刁山地区歼顽军千余人，段、苗余部分向日伪据点双沟、时村附近逃窜，依附日伪。战后，第7旅留置灵北，监视段、苗余部，第52团去淮泗地区。这两次反顽作战的胜利，打乱了顽军的进攻计划，扩大了西进部队的回旋余地，确保了前后方交通联系。

　　9月11日，在八里庄战斗中，第4师师长彭雪枫亲临前线指挥，不幸被流弹击中牺牲。彭雪枫是一位忠诚的共产主义战士，德才兼备、智勇双全的一代名将。他牺牲后，在延安和淮北都举行了隆重的悼念活动。9月13日，中共中央决定张爱萍为新四军第4师师长，韦国清为副师长。9月20日，韦国清奉命率第26团赶赴路西，统一指挥路西部队作战。

　　国民党顽军屡遭挫败后，竟与徐州、商丘日伪进一步勾结，将驻徐州以西的国民党军一部改编为徐西剿共军，由日伪顽共同掌握，进行反共反人民的罪恶活动。同时，策动日伪军向西进部队“扫荡”。日伪军纠集步、骑兵1000余人，两次“扫荡”萧永地区，妄图捕捉新四军第4师西进部队指挥机关。西进部队及时跳出，使日伪军扑空。各部乘日伪军撤退时，在夜间进行袭击，杀伤其一部，取得了反“扫荡”的胜利。

　　第4师西进部队为控制砀山以南地区，打通与陇海路北八路军的联系，于10月7日晚以3个团的兵力分3路合击侵占刷集、关帝庙等地顽军第3纵队胡式如部。8日，将胡部击散，直追至陇海路侧。因遭日军堵截，乃停止追击。此战，共歼顽军810余人，其中俘纵队司令胡式如以下698人。

　　10月12日，王毓文向所属顽军发出“进剿”命令，企图南北合击，消灭新四军西进部队。为挫败顽军这一阴谋，新四军军部于13日决定：增调第7旅西援，并组成以韦国清为司令员、彭明治为副司令员的路西战役野战司令部，以第4师西进主力和第3师第7旅共7个团，进行一次较大规模的涡北自卫战役。同时，致电冀鲁豫军区派部队南援，以保证战役的胜利。

　　10月14日，王毓文率国民党军暂编第14师、骑兵第8师及两个地方纵队共1万余人，由涡阳、蒙城分左右两路北犯。国民党苏北挺进军第28纵队刘子仁部约2000余人，由永城以西东犯，第13纵队耿继勋、刘瑞歧部约两个团，由北向南进犯。新四军路西战役指挥部决定首先歼灭刘子仁部，然后集中兵力求歼顽军南路主力。以萧铜独立团、萧县独立旅阻击南下的耿、刘残部。以宿东游击支队向南路顽军侧后挺进，以牵制其行动。当西进部队开始向刘子仁部运动时，刘部闻风逃窜，而顽军主力却疯狂向西进部队逼进。路西战役指挥部遂以第11旅在永城东北之薛湖构筑阵地，保障左侧安全；以第7旅和第9旅一部及骑兵团为机动部队，拟待冀鲁豫军区援军到达后，再行出击。16日，顽军南路主力渡过巴清河北进，向永萧地区进攻。19日，顽军步、骑兵6000余人，向山城集以西之夫子岩、吕楼、李楼及山城集以北之后窑、窑山集第25、第32团防区进攻，被击退。20日，顽军继续向保安山西进部队阵地进犯，又被阻击。西进部队在两天守备战中，连续打退顽军数次进攻。20日夜，各部派出小分队向顽军袭击，打乱了顽军指挥机关，俘数百人。顽军误以为新四军大举出击，惊慌失措，全线溃退。21日凌晨，路西战役指挥部发觉后，立即组织全线出击。当日，在永城以西酂阳集附近歼顽军1个团。22日，直逼涡阳城下。顽军溃不成军，向涡河南逃窜。23日，第4师主力4个团，转兵进袭龙山集附近顽军第30师第88团，将该团团部歼灭，俘团长以下500余人。此时，八路军冀鲁豫军区两个团及骑兵两个连，日夜兼程南下驰援，已到达淝河以北与新四军会合。为肃清宿南之顽，路西战役野战司令部曾于10月20日调第27团进入宿南，与宿东游击支队协同作战，迅速将顽军第32纵队韩金山部解决，完全控制了宿西南。至30日，取得了涡北自卫反顽战役的胜利，共歼国民党顽军3600余人，基本上恢复了原豫皖苏边区根据地。根据中共中央关于不楔入国民党军基本区的指示，西进部队随即转入防御，严守涡河以北阵地，保持了政治上、军事上的主动地位。

　　1944年11月1日，中共中央发出关于第4师行动方针的指示，要求西进部队抓紧有利时机，迅速巩固涡河以北阵地，打通与水东地区的联系。西进部队在涡北自卫战役结束后，师部率骑兵团及第25、第26、第27团转至涡北休整；以一部向东发展，与在泗五灵凤地区的部队会合，打通东西交通。以第11旅1个团控制涡河北龙山集地区，另1个团控制曹市集、观城之线。第7旅在砀南整训。宿东游击支队主力活动于宿县以北之小营集、赵集。萧县独立旅活动于萧县以西张大屯、大吴集一线。

　　11月19日，第11旅及骑兵团由涡北龙山集北上，发展夏邑、砀山地区，打开永商亳局面，并相机打通与水东交通联系。20日，在马头寺及其附近歼灭伪军第1路军第1师500余人，和顽伪一体的国民党军第2纵队第4支队500余人。至11月下旬，又开辟了商丘、亳县、永城之间的地区。至12月初，萧、宿、永、夏地区的反动武装大部被肃清。

　　西进部队在胜利进军的同时，遵照中共中央关于大力开展根据地建设和争取顽军地方武装的指示，发动群众，展开了减租减息斗争，改善了人民生活，提高了广大群众的政治觉悟和抗日积极性。建立了各级农民抗日救国会，组织了青年、妇女等群众抗日团体，恢复和整顿了党的各级组织。建立了淮北行政公署第2专署。恢复了永城、夏邑、萧县、永涡、砀南、宿怀蒙、永商亳、宿西8个县级抗日民主政权。成立了淮北军区第2军分区与8个县总队、3个独立团，组织民兵万余人。同时，还广泛地开展了统一战线工作，大量吸收进步人士和知识分子参加抗日斗争，并先后争取顽军地方武装起义7起，计3700余人。

　　新四军第4师西进部队在八路军一部支援和第3师第7旅配合下，经过4个多月的艰苦斗争，共歼灭日伪军和国民党顽军1．3万余人，拔除据点36处，控制了东起津浦路，西止商毫公路，北自陇海路，南迄涡河的广大地区，完成了西进收复原豫皖苏边根据地的任务，为战略反攻扩大了前进阵地。(见附图26)

　　在第4师主力西进期间，淮北津浦路东军民胜利地坚持了原地斗争，在第1、第3师的支援下，粉碎了日伪的“扫荡”和“蚕食”，进一步扩大了根据地，动员了上万人参军，组织了10个独立团，民兵和自卫队也发展到22万人，完成了改造基层政权的工作，不断以人力、物力、财力支援主力西进。

　　第5师北上，开辟豫南、豫中抗日根据地。1944年7月1日，中共鄂豫边区委员会在鄂中大悟山白果树湾召开扩大会议，讨论边区工作方针与进军河南敌后问题，并于7月3日将发展河南敌后抗战的工作部署上报中共中央。10日，中共中央复电：“赞成你们在半年内以巩固原有地区为主，以发展河南及湘鄂赣工作为辅的方针。”同时指出：“关于发展河南工作，应首先沿平汉路两侧向北发展，以求得和华北八路军打通联系”。【《新四军·文献》(4)，第401页。】中共中央华中局亦致电第5师指出：“我们深悉你们目前集中力量进行巩固工作之重要，但目前5师向北发展客观顺利条件，对5师与全国今后发展前途均有极大意义，不可错过。”【《新四军·文献》(4)，第231页。】据此，鄂豫边区党委确定以第13旅第38团第3营、淮南支队5个连、信应独立第25团5个连等部共1200余人，组成豫南游击兵团，任命黄林为兵团指挥部指挥长，向河南敌后进军。同时成立了中共豫南工委，夏忠武任书记。7月下旬，李先念向进军河南的干部作了动员和部署，传达了中共中央指示，指出了发展河南敌后抗战的意义和有利条件，要求大家利用有利形势打通与八路军及新四军第4师的联系，改变第5师的孤立处境，强调了进入河南敌后必须坚决执行共产党的政策。

　　1944年7月29日晚，豫南游击兵团先遣部队5个连分批由陡沟西的沈湾、邱湾一带北渡淮河，进入正阳、明港、陡沟三角地区，随即以正阳县胡冲店为中心，开展地方工作，侦察情况，建立立足点。8月29日，豫南游击兵团又在淮南肖王店西北黎山头集结8个连，渡过淮河，以远距离奔袭，一举歼灭投日反共的正阳县保安团，俘团长以下官兵600余人。此时，赞同共产党抗日主张的正阳县常备队乔玉林等部加入了豫南游击兵团，与淮南支队1个连合编为挺进第3团。信应独立第25团改称挺进第2团。先后建立了汝(南)正(阳)确(山)、汝(南)上(蔡)遂(平)两个县级抗日民主政权，建立了进军河南敌后的前进阵地。

　　为了巩固路东，开辟路西，控制平汉路两侧向北发展，豫南游击兵团确定以淮南、汝正确、汝上遂三县为基础成立路东指挥部，留挺进第3团协同中共地方组织坚持淮河南北地区的抗日斗争，建设根据地，兵团主力则挺进平汉路西。9月，挺进第2团和第38团第9连由张杨店奶山出发，从驻马店以南越过平汉铁路，向西进至确山、泌阳、驻马店之间，开展抗日游击活动。10月中旬，在沙河店至驻马店公路上伏击日军运输队，缴获药品5万多件。此时，第38团第7、第8连亦转战来到路西，在确山瓦岗东南的木掀岗与先遣部队会合。豫南游击兵团以竹沟东南孤山冲为中心，建立了豫南路西抗日根据地。第5师又增派第45团第2营进至豫南路西，加强了路西的武装力量。10月20日，豫南游击兵团集中2个营又1个连的兵力，攻克竹沟东南爬头寨，全歼勾结日伪、镇压群众抗日运动、制造“竹沟惨案”的祸首之一张明太部3个中队500余人，拯救被抢妇女40余人。爬头寨战斗胜利后，信阳、确山一带游杂武装先后接受改编，参加抗日。竹沟老根据地的群众踊跃参军，迅速组织了两个中队的武装，编为确(山)泌(阳)桐(柏)县总队。同时建立了信(阳)确(山)、确泌桐两个县的抗日民主政权和区乡民兵、游击队。第38团第3营在补充大批参军农民后，扩编为挺进第1团；第45团第2营与地方武装一部合编为挺进第4团。

　　第5师为打通与北面八路军的联系，于10月中旬指示豫南游击兵团迅速向舞阳、叶县、宝丰地区挺进，向豫中发展。豫南游击兵团以挺进第3团在路东，挺进第1团留路西，坚持巩固豫南；以挺进第2、第4团向豫中挺进。11月8日挺进第4团在舞阳西南辛集附近与日军遭遇，激战5小时，将敌击溃，毙日军20名。挺进豫中部队沿途经过对日伪、土匪的大小数十次战斗，日夜兼程，从遂平西嵖岈山经舞阳西南的庙街，进抵叶县西南三皇店、罗冲一带，争取了叶县伪皇协军辎重团反正，并建立了嵖岈山游击队。

　　11月间，中共鄂豫边区委员会决定将中共豫南工委扩大为河南工委，豫南游击兵团改为河南挺进兵团，黄林任司令员，第5师副政治委员任质斌兼任工委书记和兵团政治委员，仍辖4个挺进团。12月，任质斌率第39团1个营和抗日军政大学第10分校一批干部，到达确山孤山冲兵团指挥部，召开了营以上干部会，总结挺进河南敌后的工作，确定部队和根据地发展与建设的方针。会后，部队进行了整训，建立和健全了组织制度，设置了后勤基地。接着分别召开了各种工作会议，布置了统一战线工作、政权工作和群众工作。同时，派遣一部兵力伸入平汉路东临颖、上蔡敌后地区活动，策应八路军冀鲁豫军区水东8团西进；以另一部兵力北上襄县、郏县地区开展抗日游击活动，准备迎接八路军第359旅南下。

　　第5师为加强河南工作，于1945年初又增调一批干部到豫中。2月间，成立了中共嵖岈山中心县委和嵖岈山指挥部，以嵖岈山为依托，开辟西平、遂平抗日根据地；进军叶县、舞阳，发展和巩固豫中抗日根据地。2月8日，河南挺进兵团以挺进第2、第4团，第39团1个营和嵖岈山游击队，分路包围舞阳、遂平边之母猪峡，经7小时战斗，全歼伪皇协军独立游击大队石品侯部300余人。次日，击退舞阳日军200余人的报复“扫荡”，毙伤日军数十人。接着又粉碎了漯河、驻马店、舞阳、叶县等据点日伪军2000余人的围攻。母猪峡战斗胜利后，建立了遂平、西平和叶(县)方(城)舞(阳)3个县级抗日民主政权。

　　3月间，第5师第13旅旅长周志坚率第38团后续部队，沿平汉路东侧北上，进入河南，从古城西越平汉路与河南挺进兵团会合。3月24日，河南挺进兵团一部攻入确山西南之日伪据点任店，并于次日击退了日伪军千余人的报复“扫荡”。26日，河南挺进兵团集中第38团、第39团两个营和挺进第4团4个连，分东西两路夹攻舞阳、西平、遂平交界处重镇尹集，歼灭伪和平建国军第1师第1旅1个团，击溃1个团，肃清了尹集外围全部伪军。次日，困守尹集的伪军向舞阳逃窜，尹集随之克复。是役计俘伪军800余人。3月下旬，驻泌阳之国民党军第55军一部，配合保安团向确西地区新四军进攻。河南挺进兵团先后进行6次自卫战斗，击退了国民党军的进攻。4月13日，挺进第2团突袭西平之合水，全歼伪和平建国军第2师，毙日军遂平、西平、舞阳三县指挥官，俘伪军第2师师长及4县联防司令。战后，日伪又放弃了玉山镇据点。扫除了尹集、合水等日伪据点后，叶方舞与西平、遂平敌后抗日根据地连成一片，打开了豫中抗战局面。

　　为了巩固第5师师部与河南的交通联系，捍卫大悟山根据地，加强对豫南地区的领导，并继续开辟豫西南敌后战场，1945年4月间，中共鄂豫边区委员会与第5师师部决定：以豫南之信罗、信应、信随等县成立第6军分区，司令员陈刚，政治委员方正平。不久又以豫南之信确、信桐、泌阳等县成立第4军分区，司令员韩东山，政治委员夏忠武。同时以挺进第2、第4团组成豫中兵团，司令员黄林，政治委员栗在山，活动于西平、遂平、叶方舞等县地区。8月上旬，根据中共中央指示，豫中兵团与河南军区陈先瑞支队合并，成立豫中军分区，划归河南军区建制。

　　第5师挺进河南敌后的部队，从1944年7月到1945年4月，在不到一年的时间内，开辟了东起汝南，西至竹沟、牛蹄，南自信阳，北达舞阳，东西宽70余公里，南北长近100公里的敌后抗日根据地，建立了7个县的抗日民主政权，地方武装发展到8000余人。