1938年4月上旬，遵照毛泽东关于“高敬亭部可沿皖山山脉进至蚌埠、徐州、合肥三点之间作战”的指示；遵照新四军军部关于东进皖中、皖东的命令，高敬亭率第四、支队向东挺进。途中，高敬亭因病留在立煌县双河修养，部队由林维先、戴季英率领继续前进，于9月中抵达皖中敌后，展开于庐江、无为、舒城、桐城和巢县地区。与此同时，周恩来介绍的东北流亡抗日挺进部队也到达皖中归第四支队领导。5月，高敬亭病愈后率手枪团和后方机关，东进至舒城县西蒋冲指挥部队作战。

　　皖中的舒城、桐城等地是日军西犯的必经之路。第四支队进到皖中后，和中共皖中工委一起发动群众，积极开展游击战争，配合正面战场作战。

　　首战蒋家河口。1938年5月，侵战巢县的日军经常派出小股部队到巢湖东岸蒋家河口一带进行烧杀抢掠。蒋家河口距巢县约5公里，位于运漕河（即裕溪河）西岸，日军船艇常在这里登岸。刚刚东进到该地的第4支队第九团经过周密侦察，发现蒋家河日周围河道纵横，芦苇茂密，地形复杂，便于隐蔽，是理想的伏击地点。决定在河口西岸设伏，待机歼敌。

　　5月11日下午，第九团侦察队和第二营第四连由银屏山出发，于12日拂晓前，进入伏击地域。上午8时，从巢县方向开来两艘日军汽艇。当汽艇靠岸，日军开始上岸之际，埋伏的部队突然猛烈开火。遭到袭击的日军，有的跳入水中企图登船逃窜，有的爬上河岸顽抗。第四连三排以火力封锁日军退路，侦察队奋勇冲击，并用集束手榴弹将船炸翻。战斗仅用了20分钟，日军第六师团巢县守备队的20余人全部被歼，缴获枪10余支，设伏部队无一伤亡。

　　蒋家河口战斗是第四支队东进皖中敌后的第一仗，也是新四军挺进敌后的第一仗。它拉开了华中敌后游击战的序幕，使日军极为震动，不得不从正在进攻合肥的部队中调回一个大队。新四军军威大振，各地纷纷向新四军致电祝贺。5月16日，蒋介石致电叶挺、项英：“贵军四支队蒋家河口出奇挫敌，殊堪嘉慰。”

　　徐州失守后，日军控制了淮南铁路全线。接着以长江为中轴线，以长江南北为两翼，多路向武汉推进。驻合肥地区日军用一个师团兵力，直趋安庆、配合溯江而上的日军行动；另谴一部兵力由合肥攻六安，经大别山北麓西犯武汉。安（庆）合（肥）公路，合（肥）六（安）公路上，日军汽车运输队日夜向武汉方向输送人员和物资。为了配合武汉会战，第四支队主力大部推进安合、合六公路两侧，伏击、袭击日军汽车运输队，破坏日军运输计划。

　　棋盘岭战斗。棋盘岭位于安徽省桐城县境内，合肥至安庆公路从岭下穿过，是日军一条重要补给线。第四支队决定在棋盘岭设伏，以打击日军汽车运输队。

　　九月3日凌晨，第四支队特务营、第七团第三营统一编成四个连、两个便衣班。每连配备轻机枪两挺，便衣班每人配手榴弹3枚。进入棋盘岭地区，以两个排对南面的新安渡、北面的范家岗进行警戒；两个班在公路设伏，主攻点配备两个连加两个班；另派两个排占领制高点作为预备队。上午九时，日军满载军用物资的汽车80余辆，由新安渡方向开来。其先头两辆驶抵棋盘岭隘口时，被埋伏在公路边的便衣班击毁。第三辆汽车亦被集束手榴弹炸翻，车上的10名日军全部被击毙。日军的车队进入伏击圈，停在公路上长达5公里。设伏部队迅速出击，押车的200余日军利用汽车掩护，组织顽抗。设伏部队勇猛冲击，当即杀伤日军一部，烧毁、炸毁汽车40余辆，余敌退至棠梨山继续顽抗。激战半小时后，日军300余人乘6辆汽车来援；不久，日军骑兵500余人又赶来救援。第七团除留下少数部队掩护，主力迅速安全转移。此战共击毙日军70多人，击毁汽车50余辆，缴获步枪21支，子弹700余发，以及防毒面具、指南针、照像机等军用品。

　　在此前后，第四支队对安合公路其他地段的日军汽车队进行了多次袭击。6月16日第八团在舒（城）桐（城）段的大小关伏击日军，击毙23人，俘虏1人。8月17日第八团又在舒桐段公路上伏击日军汽车10余辆，击毙日军4名。9月第七团第一营在合肥至六安公路上三十里岗袭击日军骑兵，毙伤日军近百人。9月1日第七团在合肥至六安上的椿树岗附近，炸毁日军汽车65辆，击毙日军46人，伤日军百余人，俘虏日军运输队长1人。第三营在安庆至桐城公路上的铁舖岭地区伏击日军汽车运输队，击毙日军29人，缴获步枪28支，军用品一部。9月17日第七团第三营在棋盘岭再次伏击日军汽车队，毙伤日军近百人，击毁装甲车2辆，缴获步枪38支。支队特务营于8月25日攻克舒城大功街日军据点，击毙日军51人。第七团第二营于9月28日，在巢县袭击驻运漕的伪军，击毙伪军50余人，俘虏伪军副司令以下160余人。缴获步枪150余支，轻机枪6挺，驳壳枪21支。

　　自1938年5-11月，第四支队为配合正面战场作战，支援武汉会战，在皖中各地积极出击，取得大、小战斗数十次的胜利，共毙伤日军1000余人，俘虏10人，击毁日军汽车150余辆，缴获大批武器弹药、军用物资，破坏了日军的运输，牵制了日军的行动。

　　正当第四支队积极对日作战时，巢县、无为、桐城、舒城等县的封建势力，乘机收罗土匪、兵痞，组织保安团队，勾结日伪，残害人民，破坏抗战。第四支队对这股反动势力坚决给以打击。6月，第七、第九团分别在舒城、无为境内清剿土匪1000余人。10月下旬，第七团发起庐、无战斗，先后攻克无为、庐江两城和襄安等镇，共歼灭反动保安团队2800多人，缴获长短枪1600余支。深受土匪武装欺压之苦的人民群众，无不拍手称快。第四支队还协助中共皖中工委广泛开展抗日救亡运动，发动与组织群众建立党的组织，成立工、农、青、妇等抗敌协会，大力开展统一战线工作，初步打开了皖中抗日的局面。

　　为了进一步贯彻东进的方针，新四军军部遵照中共中央指示，命令第八团首先向皖东挺进。1938年8月，第八团由桐城西汤池等地出发。9月，越过淮南路，进入皖东，先后在肥东、巢北、含山、全椒、滁县一带展开。为了加强对新四军江北部队的领导，11月，张云逸率军部特务营（两个连）从皖南渡江北上，抵达江北无为地区，视察了第四支队。12月，张云逸在戴季英陪同下到立煌县与国民党安徽省政府主席、第21集团军总司令廖磊谈判。新四军江北部队的活动地域达成协议。双方商定，第四支队到皖东津浦铁路南段两侧活动，并留一支部队在无为、庐江地区。随后，第四支队将庐江、无为地区中共组织领导的游击队一部整编为新四军江北游击纵队，由戴季英兼任司令员，黄岩任政委，担负皖中地区的抗战任务，负责保障与皖南新四军军部的交通联络。12月，第四支队恢复7月问曾被撤消的第九团建制，将原编为第七团第二营的该团与庐江、无为等地的游击大队合编为第九团，团长詹化雨、政委胡继亭。将支队手枪团改为教导大队，大队长李世安，政委江岚。1939年1月，第四支队派梁从学、汪少川组建了淮南抗日游击队，后与郑保真领导的寿县合肥游击支队合编，仍称淮南抗日游击纵队，郑保真任司令员，汪少明任政委，梁从学任副司令员，全纵队1000余人。

　　1939年1月和2月间，第四支队第七团、淮南抗日游击纵队先后东进到淮南铁路东侧的青龙厂、下塘集等地，第八团在巢县梁国一带活动。2月，张云逸由皖中舒城到达皖东，直接指挥第八团等开辟皖东地区。3月，林维先、戴季英率领第四支队机关和特务营也东进到青龙厂和定远县吴家圩子地区，指挥第四支队的行动。高敬亭率支队后方机关、教导大队和第九团停留在舒城西蒋仲。这个期间，第四支队各部分散活动，积极袭扰日军；第七团在淮南铁路两侧的备头集、太平巷、朱龙镇、顾家圩、谢家圩等地对日作战，共毙伤日伪军150余人；支队特务营在月山、沟口、十里铺等地毙伤日伪军400余人。2月19日，驻合肥日军1000余人乘春节之际分两路袭击第四支队第八团，一路偷袭驻巢县梁园的第八团团部；另一路偷袭驻拓皋镇附近东山口的第八团部队，第八团奋起反击，击退日军多次进攻。激战一天，击毙日军150余人，击伤日军230余人。

　　这时国民党桂系军队也由大别山向皖东伸展，企图把新四军挤出皖东地区。在此形势下，为了加强和统一指挥新四军江北部队，叶挺、项英于3月30日致电毛泽东和刘少奇，提出拟在江北设立指挥部。中共中央迅速批准叶、项的建议，并发出关于发展华中武装力量指示。指出：“华中是我党发展武装力量主要地域，并在战略上，华中亦为联系华北、华南三枢纽，关系整个抗战前途甚大”。“新四军在江北指挥部应成为华中我武装力量之领导中心，除指挥我原有武装外，更有建立及发展新的队伍之任务”。“希望东南局及新四军领导同志顾全全国局势及华中之重要，抽调大量及大批干部到江北。”4月中旬，项英致电中共中央，报告了新四军在江北的工作方针和江北部队改编的建议。4月24日．中共中央复电项英，指示：“目前，我党我军在皖东的中心任务是建立皖东抗日根据地（当前在一切敌后的任务都是建立根据地）这是我们一切工作的中心和目的”。“目前，军事上的目的是坚决消灭汉奸、土匪部队，在打击日寇战斗中，迅速扩大和巩固我军为皖东抗日武装的主力，并积极向东、向北发展，建立后方。”

　　根据中共中央的指示，5月上旬，叶挺率邓子恢、罗炳辉、赖传珠、孙仲德、桂蓬训等和第二支队第四团第一营，由皖南出发，渡江北上，到达皖中庐江东汤池。中旬，正式组建新四军江北指挥部，张云逸兼任指挥、邓于恢兼任政治部主任、赖传珠任参谋长，同时组成中共新四军江北前敌委员会，张云逸为书记。

　　叶挺、张云逸到达江北后，先后到皖中舒城西蒋冲动员高敬亭率领第四支队东进。但由于高敬亭思想跟不上形势．对中共中央的指示执行不力，行动迟缓，贻误了东进时机。江北指挥部成立后，叶挺到西蒋冲召开第四支队干部大会，重申中共中央的方针，动员东进。在这种情况下，高敬亭于5月中旬率第四支队向皖东挺进。在开进途中，发生了第七团团长杨克志、政委曹玉福叛逃投靠国民党军队的事件。5月19日，叶挺、张云逸从西蒋冲抵达青龙厂。5月底，第九团特务营和淮南抗日游击纵队进到青龙厂地区。6月4日，高敬亭率支队后方机关和教导大队亦到达青龙厂。至此，第四支队全部进入皖东。从6月上旬开始，部队开展了反杨、曹斗争；同时对高敬亭的错误进行了批判。6月24日，高敬亭在青龙厂被错杀。中共中央对高敬亭一贯采取说服教育的方针，曾电示新四军调高到延安学习，但电报到时，高敬亭己被处死。高敬亭在执行中共中央关于东进的方针中是有错误的，在杨、曹叛逃事件上也有一定领导责任。但这些毕竟是思想认识问题。高敬亭在极端困难的条件下，坚持了鄂豫皖边区三年游击战争，保存了2000多人的武装；他对敌作战坚决，对革命是有功的，因而处死也是不对的。高敬亭被错杀后，第四支队一些干部受到牵连，也是不妥当的。

　　江北指挥部成立以后，新四军江北部队统一了领导。1939年6月15日。中共中央任徐海东为江北指挥部副指挥。7月1日，以第四支队第八团为基础，扩编成第五支队。江北游击纵队改由江北指挥部直接指挥。整编后的第四支队由徐海东兼任司令员，戴季英任政委（后郑位三）兼政治部主任，林维先任副司令员，谭希林任参谋长。辖第七、第九团及由第四支队特务营和淮南抗日游击纵队（欠一个大队）组成的第十四团。团长梁从学，政委李世焱。第七团团长秦贤安、政委徐世奎。

　　第五支队由罗炳辉任司令员，郭述申任政委，周俊鸣任副司令员，赵咨民任参谋长，方毅任政治部主任。辖第八团第10团（原第八团扩编组建的挺进团）和第15团（原第三游击纵队）。第八团团长由周俊鸣兼，政委刘树藩。第十团团长成钧，政委徐祥亭。第15团团长林英坚，政委刘景胜。江北游击纵队由孙仲德任司令员，黄岩任政委。辖第一、第二两个大队。8月，以第四团第一营为骨干，扩编为江北游击纵队第一大队，原第一、第二大队依次改为第二、第三大队，全纵队约1500余人。

　　根据江北指挥部统一部署，第4支队在皖东津浦路以西的定远、凤阳、滁县、全椒一带展开，经过两个多月连续战斗，开辟了以定远藕塘为中心的皖东津浦路西游击根据地。江北游击纵队纵队部率第三大队坚持在巢县、无为沿江地区，保持与皖南军部和大别山区中共组织的交通联系。第一大队进至和县、含山一带，第二大队进至肥东青龙厂和定远县永康镇地区开展游击战争。

　　第五支队成立后，即向皖东津浦铁路以东挺进。5月，方毅率第8团第二营和战地服务团一部，率先越过津浦铁路．在盱眙、天长、来安一带进行侦察。7月，第八团第三营为先头部队，向津浦路东地区挺进。8月，罗炳辉、郭述申率领第八、第十五团和支队机关继续到达津浦路东。不久，第十团也进入津浦路东，全支队在来安、天长、杨州、盱贻、嘉山、仪征、六合等地展开。

　　来安战斗。9月3日，驻滁县的日伪军300余人，侵占来安县城，企图以来安为依托，切断津浦路两侧新四军部队的联系，逼迫第五支队退回津浦路西。为了粉碎日军企图，第五支队决定乘日伪军立足未稳围攻来安。罗炳辉亲自率领支队与日伪军激战3日，毙日伪军100余人，其余仓皇逃跑，第五支队收复来安。这是第五支队挺进敌后皖东的第一仗，首战告捷，士气大振，为立足皖东，开辟皖东，发展皖东打下了基础。逐步开辟了以半塔为中心的津浦路东抗日游击根据地。

　　周家岗反“扫荡”作战。新四军在皖东的发展，使日军感到严重不安。12月中旬，日军第六师团长谷寿夫，从南京、明光、蚌埠等地抽调日伪军共2000余人，配备各种炮10余门及部分骑兵，集结于滁县、沙河集、全椒等地，分三路向4支队驻地滁县以西的周家岗地区“扫荡”。

　　江北指挥部针对日军的部署，依据周家岗的地形，决定避其锋芒，击其弱翼，充分利用有利地形，出其不意，在运动中打击日军。为了粉碎日伪军的“扫荡”，徐海东根据江北指挥部的部署，从第四支队司令部驻地滁县太平集赶到第七团团部，占领周家岗西北常山岭一线阵地，阻击向太平集支队司令部进犯之日军。第七团第一、第二和第三营九连于周家岗西南山地设伏，第九团在周家岗以南的复兴集、玉屏山一带构筑阵地。12月19日，日军开始出动。21日，由全椒进人大马厂的日军1000余人向周家岗发起进攻，遭到了在玉屏山的阻击。

　　日军因前进受阻，退回复兴集。随即集中炮火轰击第九团阵地。第九团一个连适时对退守复兴集的日军进行攻击，迫使日军退守大马厂一带。21日上午，由滁县、全椒出动的日军合击，并占领周家岗。下午4时许，占领周家岗之日军向复兴集前进，企图与被阻于大马厂之日军会合。当日军进入第七团预伏地域时，第一营立即发起冲锋，将日军队伍截为数段。遭到伏击的日军龟缩于山根曹、西河家庄等山村，凭险固守。入夜，第一营又对该地日军进行攻击。第一连反复冲锋10余次，日军损失惨重。

　　驻巢县的日军，为了配合对周家岗地区的“扫荡”，出动近千人，于21日经含山进攻古河镇。驻守古河镇的国民党第十游击纵队没有挡住日军的进攻，古河镇被日军占领。

　　“扫荡”周家岗地区的日军连遭新四军的打击，不得不于23日上午开始撤退。经过三昼夜激战，共毙伤、俘日军160余人，其中击毙日军中队长1人，缴获了大量武器弹药和军用物资，收复了被日军占领的周家岗、复兴集、大马厂、古河镇等地。