皖南事变后，以蒋介石为首的国民党顽固派集中重兵，在皖南山区继续进行梳篦式的“军事围剿”和“政治围剿”。国民党纷纷成立各种反共组织和特务行动队，强化保甲制度，实行“五家连坐法”，设立明岗，布置暗探，采取各种毒辣手段，制造白色恐怖。各地方党组织和党员群众惨遭迫害和镇压。皖南的革命斗争处于暂时的困难时期，中共党的组织经受着严峻的考验。

　　面对敌人的疯狂镇压，为保存自己，反击敌人，旌泾太中心县委写信给新四军代军长陈毅，要求建立军事武装，陈毅立即作出指示：批准县委的要求。指出“皖南山区必须发动游击战争，坚决以武装斗争回击敌人。”搞武装斗争，要有懂军事、会打仗的干部，中心县委联系上了突围出来的新四军作战科科长李志高，要求留下军事干部；李留下富有作战经验的老红军、军部教导队工兵连连长刘奎和三支队指导员李建春，还有在泾县茂林蜜蜂洞中被叛徒刘厚总打伤的黄诚（周子昆的警卫员）。

　　1941年5月初，在旌德靠近太平边界的濂坑村小山沟里，中心县委成立第一支武装，不打新四军番号，对外称黄山游击队。刘奎任队长，李建春任指导员，另外有刘贵生、洪林、张小牛、殷德光、周义富、周明火6人。武器仅有2支手枪、6条步枪、2条土枪和几颗手榴弹。当晚，战士们燃起了篝火，举行成立仪式，并宣誓：“我们是新四军播下的革命种子，是共产党领导的游击队，坚决同日本侵略者和卖国贼斗争到底，战死不投降，打死不叛变，为死难烈士报仇，为民族解放斗争到底！”经过一段时间的训练，这支小游击队带着旺盛的斗志，渴望投入战斗。事变后，国民党顽固派十分猖狂，以为新四军已经被“一网打尽”了。针对这种情况，我们的武装力量小，只能找敌人的“软肋”突然奔袭，出奇制胜，积少成多，逐步发展。经过充分讨论，确定了以旌德西乡庙首乡公所作为第一个打击目标。

　　旌德县庙首乡公所，政治上很反动，长期坚持与共产党、新四军为敌。乡长江端是条地头蛇，反共急先锋。1934年方志敏率领北上抗日先遣队进入皖南时，曾占领庙首地区，红军走后，江端等人大肆反扑，屠杀共产党人，镇压革命群众。1938年，江端的反共活动也更猖狂。皖南事变后，他大发淫威，先是残酷地杀害了江福喜父子、袁成发等早期中共党员；后在旌德西乡一带，指使杀害共产党员、革命群众近20人。又把县委派去庙首做恢复工作的原中共区委书记徐建新逮捕关押在乡公所。西乡人民恨之入骨，称他为“活阎王”。当时乡公所里只有十几个自卫队员，十多条枪，这些乡兵整日抓丁抢粮，欺压百姓。事变后，他们认为新四军被消灭了，无后顾之忧了。平时都打开大门睡大觉，哨兵值班马马虎虎。另外，庙首镇距离旌德县城30余公里，附近没驻国民党正规军。而距王家庄仅10公里，山区群众对这一带道路熟悉；镇上居民在王家庄有亲戚往来，具有良好的社会关系，可以收集到可靠情报和掌握准确的动态，有利于取得胜利。

　　这是皖南事变后向国民党顽固派打的第一仗，成败关系到游击队的前途和命运。中心县委首先派交通员王时尚和当地党员程开元父子，以做木匠为掩护，去庙首侦察敌情，了解徐建新同志拘押情况及江端的行踪；其次，周密部署游击队的行动计划和袭击路线，从游击队当时隐蔽地濂坑夜行军30多公里，到达王家庄待命；然后从王家庄选择一条不经过村庄的小路直插庙首，地下党组织派共产党员汪太乾作向导。7月8日，刘奎、李建新带领13名从皖南事变中突围出来的新四军战士组成的游击队，秘密来到王家庄，隐藏在村后黄高峰山腰里一个种玉米农民搭盖的看守野猪的山棚里，做好了袭击前的准备。

　　7月9日（农历6月15日）黄昏后，胡明、刘奎、李建春率领队伍离开山棚、抄小路向庙首进发，队伍在“碧云庵”山庙里汇集当地党员，召开了战前动员会，胡明作了动员讲话，对战斗作了具体部署。当夜11时，队伍从“碧云庵”出发，大家手腕上都扎着白色毛巾，天气晴朗，十五的月亮照在崎岖的山路上，队伍按计划行动。凌晨1时，到达庙首村外，刘奎发出“准备战斗”的命令，战士停步蹲在路边，推子弹上膛。这时，忽然从附近的小路上传来隐隐约约的说话声，还有人哼着下流的小调。一会儿，一串长长的人影映入战士们眼里。战士们迅速钻进路边树林里隐蔽观察，原来是三个乡兵押送20多个从白地等处抓来的壮丁去乡公所。刘奎站起来一挥手，十几支枪一起指向三个乡兵：“不许动！”乡兵被突如其来的举动吓懵了。有个乡兵说：“别开玩笑了，你们是哪部分的。”“新四军！”刘奎响亮地回答。三个乡兵只好举起双手。队员们迅速缴下他们的枪支，捆起来投进树林里，三个战士剥下他们身上的衣服穿好，继续押着壮丁向庙首村中的乡公所走去。

　　乡公所座落在村中央吕氏宗祠内，门口一对石狮子旁，一个哨兵抱着枪在站岗。游击队逼近祠堂门口，战士叶炳才端起“德国造”步枪射击，哨兵应声倒下。突击组迅速冲进祠堂，亮起手电，高喊：“举起手来”。早已睡觉，但被枪声惊醒的乡兵乱成一团。一个小队长躲进床下，企图负隅顽抗，被当场击毙。不到十分钟，十几个乡兵被俘。徐建新因前一天被押往县城未被救出；江端因当晚宿在板桥一情妇家，侥幸逃命。战斗结束，他们进到祠堂后厅，发现关押着新抓来的50多名壮丁，新四军战士周汉清操起大刀，砸开铁锁，将壮丁全部放出。刘奎向他们宣讲共产党的政策，揭露国民党反共、陷害新四军的阴谋。壮丁们深受感动，纷纷要求参加新四军游击队。队伍撤离时，将事先准备好的“坚持抗日，反对分裂”，“蒋介石制造皖南事变，屠杀抗日的新四军，是最大的卖国行为”等标语，散发给群众，贴满庙首街头。为防止敌人追踪，队伍先向南走练山村，后又向西，折往旌德祥云地区的大山中隐蔽。

　　1941年8月，皖南事变中被捕的唐辉同志，在押送途中逃走，找到王家庄，中心县委安排他和当地党员王必达组成另一支小游击队，坚持留在黄高峰周围开展活动，并剪除了里仁村一个叛徒，争取群众拥护；10月，刘奎率领游击队主力打下了旌德北乡大礼村乡公所。1941年11月间，中心县委游击队和皖南特委及新四军七师取得了联系。过春节时，新四军七师师部派陈洪、刘焕安率20余人的武装小分队到皖南加强中心县委的武装力量。中心县委将分散在泾县、太平、旌德三县的各游击队在木瓜坑集中，游击队武装已发展到100多人，成为新四军在皖南地区打击敌人的主力，傅秋涛、粟裕、曾希圣等新四军领导人都先后对皖南游击武装作过指示。从此皖南游击队不断壮大。到1947年，中共泾旌太县委改称中共皖南地委，黄山游击队改称皖南游击队，以熊兆仁为司令，胡明为政委。