1932年6月，国民党当局向鄂豫皖地区发动第四次“围剿”，蒋介石任“剿匪”总司令，投入30万兵力。国民党军纷纷进驻黄安一带。

　　1932年10月，中共鄂豫皖中央分局在黄才畈召开紧急会议，决定红四方面军主力向西转移，留下第七十五师(两个团)和九军(三个团)在鄂豫皖地区坚持斗争。

　　红四方面军主力走后不久，红二十五军成立，郑位三带领着中共鄂东北道委和鄂东北游击总司令部原地坚持。郑位三重视武装斗争，首先将黄安县革命武装，扩编为黄安县独立第七师，下辖十九、二十两个团，并相继在陂安南、河口、陂孝北、麻城、罗山、礼山、经扶等县，组建了县独立团和游击队。

　　1932年冬，国民党对鄂豫皖苏区进行第五次“围剿”和第一次大屠杀，数十万国民党军狂叫着“血洗大别山”、“铲草除根”、“民尽匪尽”向苏区杀来。

　　在敌人疯狂进攻和摧残破坏下，鄂豫皖革命根据地大部丧失，根据地内的游击队、人民衣食住行，都非常困难。就在这极端困难的白色恐怖环境下，郑位三带领着中共鄂东北道委和游击总司令部，整顿了各游击队，找寻苏维埃政权时的干部，发动群众，扩大革命武装，与敌军展开游击战。郑位三在这一时期的游击战争实践中，深深体会到，毛泽东运用游击战争，发展革命武装，以广大的农村包围城市的革命策略，是从总结中国历史上农民起义的经验中得出来的结论，是今朝唯一正确的革命道路。他以自己的智慧苦读马列主义的书籍，以一个共产党员的身份，严格对己，宽厚待人，脚扎在游击队和群众中，了解尚存在的问题、未解决困难，不断地总结经验，使游击队的形式更多样，游击战争开展得更加灵活。为了坚持游击战争，保卫革命根据地的存在，他在硝烟弥漫的战场上，走遍了鄂东北的山山水水。

　　为了发动群众，首先要了解群众的生活，解决群众的困难，特别是在1932年的冬天，在“血洗大别山”、“民尽匪尽”等灭绝人性的反革命口号声中，国民党军队和乡、保、甲长，强行命令凡是在村镇居住的人，户户门口要插白旗，表示向国民党归顺，否则即烧光、杀光、抢光。国民党军队加地方反动武装，直杀得人民在村镇上不能露面，田间秋作物无人收割，村镇成了废墟，被杀死的人无人埋，大批的苏维埃政权的干部、红军的伤病员和红色的群众，无家可归，只得躲在深山老林石洞中。郑位三领导同志们坚持对敌斗争，每到一山、一地，总设法去看望伤病员和群众。

　　深冬，白雪皑皑。郑位三深入到古树参天、山高、石奇的老君山深处，看望隐蔽的群众，见到一家老小数人挤在一个石洞里，有的有点干草，有的草也没有，他们没有棉被，只有很少的棉衣，老人把孩子抱在怀里。有的人找不到石洞，就在石夹缝里度日。绝大多数的人没有粮食吃，老人流着眼泪，孩子们叫饿、哭泣。有一家农民，五口人冻饿死了两人，他家没有哭声。户主淡淡地对同志们说：“我们家死了两个人，隔壁洞内，五口人死了四口……”

　　郑位三看到那一片隐蔽的群众有一百多人，还有伤病员，他认为这不仅是一个地方的问题。他感到问题极其严重，这样的环境，群众如何生存下去?他说，单纯的隐蔽，时间长了与外界没有联系，会因不了解革命的形势而陷入绝望的。经与同志们商量最后决定：(1)先打开内外联系的通道。要组织七里坪和河南省的箭厂河、老君山周围地区地下党，从移民点中组织三三两两的人，以上山开荒为名，先做到山里山外沟通，在可能的条件下向山里运送一点生活用品；(2)宣传革命的形势；(3)作长远的打算，中青年人组织起来，运转生活用品；(4)要站岗放哨，防止敌人偷袭和搜山；(5)游击队设法与山里隐蔽的群众取得联系，保卫人民，争取在冬季不饿死、冻死。在敌人搜山时，接应群众，配合群众，保卫群众，把搜山的敌人打退或拉走。

　　共产党员们先在移民点内组织人上山打柴，游击队打敌人的仓库和粮仓，把共产党员组织的打柴、开荒队变成保护群众的掩护队，从而群众的斗争性更加高昂。

　　在中共鄂东北道委和游击总司令部的领导下，整顿了各游击师，扩大了各县的独立团，发展了游击小组，红军和群众联合起来共同抗敌，展开了更广泛的游击战。还采取了一种新的斗争形式，根据地群众纷纷避入深山，实行空室清野。敌军在根据地内，行军所至，空无一人，入夜则枪声四起，敌军始料不及，惊慌不安。这样，在反“围剿”斗争中，鄂东北地区，仍然保持了敌占城镇，我占乡村的局面。

　　一日，七里坪的地下党通知老君山的群众说，七里坪驻军一个营和区中队要搜老君山。山上的群众于是积极做迎敌的准备，请开荒队的同志买来了一些鞭炮和红纸红布，然后集中山中的人们，将仅有的两支枪和两颗手榴弹，埋伏在老君山的紧要路口上，鞭炮装在铁皮桶里，散炮分给孩子们，老人举红旗，山上男女老幼齐上阵，按计划埋伏在山峰、山坡和奇石后面。上午10时，七里坪走出大批的敌军，直奔老君山而来。不多时，便接上了火。群众声东击西的大调动，山上好似驻有千军万马的大批红军，枪弹发挥了威力，炮桶似机枪，散炮似步枪，激战了多时，突然山上的红旗招展，四面飘扬，好似发起总攻势，敌军见势不利后退了。郑位三在这场胜利后总结说：人民群众打败了国民党的正规军，是古今中外战争史上罕见的奇妙的战斗，是游击战争中又一种战争形式。国民党的军队，失败后不甘心。他们为逼迫群众下山，和给红军、游击队的活动制造困难，便滥伐山林，烧山、毁林，大喊大叫，要“砍尽大别山的树，挖尽共产党的根。”群众立即组织起来与敌人斗争，买来了红红绿绿的纸张，大写“树也砍不完，根也挖不尽，留得大山在，到处有红军”的标语，到处张贴。敌军看到贴到门口的标语，乃不得不承认：“鄂东……匪化最深，无论男女老幼，莫不具有匪性。大军进剿过后，地方匪军蜂拥而起，动辄啸众千万人，匪之组织毫未打破，匪军行动到处自由，实非仅以军事力量所能完全消灭也。”

　　鄂东北地区军民空前广泛的游击战争，有效地打击了敌人。战争打得激烈、残酷。国民党的大军驻进河南省的罗山、经扶、光山，到处设有大大小小的据点。光山县的游击队经常深夜突袭，先后攻占白雀园、沙窝、砖桥，进逼新集(经扶县城)、泼陂河。敌军无可奈何地承认：“匪之所谓地方武装，各县各区均有……裹胁民众，维持其原有组织，并扰害我后方交通。连日派军队清围，此剿被窜，兵去匪来，兵来匪去，剿抚兼施，未获成效。”游击队冲杀之后不能久停，国民党的正规军及地方上反动武装加伪乡、保政权联合强权高压、严查户口，决心断绝群众与红军的联系。他们日日夜夜守在村头巷尾，凡门上没有插白旗的，有人出入者见一个杀一个。经扶县城以南的苦莲台、黑石寨、赵家尖一带都是一些较小的山，隐蔽在山里的群众不可能集居，全是散在山间，生活十分困难。郑位三思考着如何才能救助群众度过严冬。他先是组织游击队买来了少量的大米和红薯，摆放在山路边上，等群众来拿取，但等了两天，没有人来取；又与区委和游击队取得联系，找三个当地人为一组，深夜送粮到空房铁锅里，盖好锅盖，第二天去看时，锅里的米没有了，这证明还有群众回村；后来就组织两三个便衣小组，后半夜出发，将米送到门的后边、屋角里和锅里；最后小组同志在屋角里、山坡上等着来取粮的群众取上联系，拿米的群众也在等送米的人联系；便衣小组与群众见了面，联系上的群众一传十、十传百，说红军给我们送米来了。于是，军民很快联起手来共同抗敌；决定先除掉几个最反动的保长，煞一煞反劝派的嚣张气焰，扩大自己的活动范围。确定目标后，大的游击队难以接近，就派便衣小组去，白天难找到保长，乘敌人不注意时夜晚潜伏在保长家附近，伺机动手，得手后迅速撤出。除掉几个保长后，游击队和群众活动天地扩大了，人民的生活也有了大的改善。郑位三对这里的斗争，总结了两条经验：(1)便衣小组轻便灵活，能深入到群众中与群众打成一片，可在群众中了解情况，获取情报，找到可靠的向导，打击敌人的弱点；(2)精干的便衣小组可执行单独的任务，几个小组集合起来就是个游击队，可以配合红军作战。

　　郑位三在总结时，看到便衣小组的组织形式更优越，更适合当时游击战争的斗争形势，认为，如果再授于这种游击形式几条使命，它就可以成为革命根据地内一种新政权。他在泼陂河一带活动了多日，将便衣小组一组分为三组，配合游击队、区委作战。他以中共鄂东北道委和鄂东北游击总司令的名义，正式命名便衣小组为“红色便衣队”，并授予使命：

　　1．行使政府法令。有发布各种政令，镇压反革命、杀坏人、保卫人民之责。

　　2．军事。组织革命武装，镇压反革命武装，消灭敌军。

　　3．党务、政治。加强党的纪律，巩固党支部、新建党支部、发展新党员，大力组织宣传党的政策、战争的现况和胜利消息。

　　4．经济。收商税、征粮税、向豪绅地主借粮借款。

　　郑位三选拔了一批精干、政治可靠，能坚持党的原则的干部到红色便衣队工作，特别是在授予其4条使命后，再推广，再实验，证明这种新的斗争形式确实有效，便向鄂豫皖省委作了专门汇报。

　　1932年11月10日，中共鄂豫皖省委《关于今后的斗争方针问题向中央的报告》肯定，红色便衣队是“极为适宜的一种游击方式”，并提出：“现在最有希望发展为最重要的运动就是便衣队的运动。”

　　得到鄂豫皖省委的肯定后，郑位三非常重视培养新人，先后到礼山县宣化区和黄安县二程区找区委书记黄宏儒等，共同研究将便衣队规模定为三至五人，又将授予红色便衣队的4条使命，加上细则，在两地开办了红色便衣队训练班。