抗日战争爆发后，叶挺毅然结束了长达十年之久的流亡生活，回到祖国，投身于轰轰烈烈的抗日斗争。叶挺回国后，党中央决定由他担任江南抗日武装领导人，他接受了这个任务，担任了新四军军长。

　　1937年12月，新四军军部在武汉成立。

　　随后，叶挺下令江西、浙江、福建、湖南、广东各省游击队向皖南岩寺地区集中。江北鄂豫皖及鄂豫边游击队分别向合肥舒城、无为地区集中。遵照叶挺的命令，2月下旬至4月间，新四军第—、二、三支队所属各部先后到达皖南岩寺会师，军部机关也从南昌迁到了岩寺。

　　刚刚安好部队，叶挺即在其他领导同志的陪同下，到各驻地看望指战员。广大指战员第一次看到自己的军长，心情都十分激动，大家列队接受叶挺军长的检阅。叶挺军长身穿一身黄哔叽军服，挂中将军衔，腰扎武装带，手提一根手杖，威武地从队伍面前走过，微笑着向大家招手致意。检阅部队后，又分别召集干部见面，鼓励大家要利用当前的宝贵时间好好学习，加强军政训练，练好过硬的本领，打败日本侵略者。

　　两天后，叶挺在岩寺鲍家祠堂召开了新四军第一次营以上干部大会。会后即组织部队开展了轰轰烈烈的组训和民运工作。各支队都开辟了新操场，军事训练热气腾腾。部队还大力做群众工作，帮助农民劳动，并开展各种抗日宣传活动，动员青年加入抗日队伍。

　　7月1日，叶挺率领军部机关进驻泾县云岭。在这期间，叶挺为解决部队装备、经费等问题而日夜操劳。他的妻子李秀文去香港购置了3600支手枪，途经上饶时，被顾祝同无理扣押；叶挺得知消息后，立即赶去当面责问顾祝同：“本人为本部谋得3600支手枪，司令官为何要百般刁难？”顾祝同厚颜无耻地说：“这批枪支，新四军用，不过是为抗日，其它军使用亦为抗日。本人为抗日着想，因此，将武器留下，望军长多从大局计议。”

　　叶挺见他企图霸占这批手枪，不禁勃然大怒，霍地站起来用拳猛地砸向桌面，大声怒斥道：“我不知道，你说出这些话是否问心有愧，请你扪心自问一下，司令官所属之国军部队究竟和日本打过多少仗？新四军夜以继日和日本人搏斗，你们又给过新四军多少枪支，多少弹药？我们自己设法解决一部分武器，你们还要扣留，难道叫我们赤手空拳去抗击日军不成？”

　　顾祝同顿时哑口无言，只得将武器交出。

　　1939年2月，周恩来到皖南与叶挺等新四军领导人商定了“向南巩固、向东作战、向北发展”的战略方针。为贯彻这一方针，叶挺于1939年5月，越过日军封锁线渡江来到江北，主持成立了江北指挥部，并将第四支队扩编为第四、第五支队，将游击战争推进到津浦路西、路东地区。他还将彭雪枫支队改编为新四军第六支队，并为他们筹措了一批枪支弹药，指示他们向淮上地区进军，开辟新的战略区。

　　新四军成立后的头3年中，对日伪作战4000多次，歼敌10万余人，创建了苏南、苏北、皖南、皖中、皖东、皖东北、豫皖苏边、淮海等抗日根据地。新四军从1万人发展到10万人，这些巨大的胜利，无不蕴含着叶军长的心血。

　　1940年10月初，万余日军“扫荡”皖南，以5000兵力直扑泾县云岭，妄图将新四军军部一举消灭。叶挺亲自指挥第一团和军部直属队，在云岭外围截击敌人，经过反复冲杀，歼敌数百，将敌击退。接着，他又指挥部队乘胜向入侵泾县的日军发起攻击，并将日军赶走，收复了泾县县城。

　　新四军在皖南的胜利，震惊了中外。但蒋介石却把新四军看成是眼中钉，阴谋消灭新四军。

　　1941年1月4日凌晨，新四军奉命北上敌后抗日，部队行经茂林，国民党以7倍于我的兵力，从四面八方向我猖狂进攻，发动了皖南事变。我军被迫应战，最后被国民党军四面包围，陷于绝境，大部分将士英勇牺牲。事变中，叶挺军长始终战斗在最前线，直到同志们劝他突围，他仍坚持不走。他说：“我叶挺身任军长，不能丢掉士兵，宁愿粉身碎骨，也要和同志们战斗在一起！我们的事业是正义的，共产党人是杀不了的，留得火种在，不怕不燎原！”

　　叶挺军长被捕以后，蒋介石对他百般利诱，但他始终坚贞不屈，直到抗战胜利后，才被释放出狱。