一、“务求克复之”
彭德怀、左权在1940年9月16日的命令中给129师下达的任务是：“以收复榆社、辽县为目的，开展榆辽地区斗争，并以一部兵力不断破袭白晋路北段。”根据总部指示，刘伯承、邓小平经过认真分析研究后，把129师第二阶段破击的重点放在了具有重要战略地位的榆辽公路上。
榆辽公路是日军深入我抗日根据地的平辽公路的前段，日军企图把这条公路由榆社向西伸展，经武乡与白晋铁路连接。至我军攻扫榆社时，榆辽公路敌战区与白晋铁路敌战区只差20来公里就要打通。一旦打通，我太行根据地榆辽以北、平辽以西的一大片就会被隔绝开来；而且日军从正太路、白晋路两线调兵遣将进攻我根据地就会更加机动灵活，这对我太行根据地的巩固和发展是极为不利的。
为了牢牢掌握榆辽公路的控制权，在短短的45公里沿线上，日军设立了榆社、沿壁、王景、官头、铺上、小岭底、石匣、辽县等8个据点，而且兵力、兵器的配备及构筑的工事，均较正太路据点要强。
向来善于用求实的精神、敏锐的眼光、惊人的洞察力观察敌人、了解敌人、分析敌人并从中寻找出克敌制胜方法的刘伯承、邓小平，在充分估计到敌占据险要地势和坚固工事、装备较好又是以逸待劳等优势的同时，也准确地抓住了敌孤悬于抗日根据地内，援兵到达须经数日路程的弱点，决心避敌之长，击敌之短，利用可以争取到的几天作战时间，以英勇顽强、长于近战、夜战之师，进行突然袭击，坚决割掉这块危害抗日根据地发展的毒瘤。
9月22日，刘伯承、邓小平在宋家庄129师指挥部下达了榆辽战役的作战命令，决定以突然袭击手段消灭榆社至小岭底之敌人，收复据点，摧毁公路，并乘势向辽县进展，相机收复辽县。作战的具体部署是：以第385旅并指挥新编第11旅第32团为右翼，主力攻取官头、铺上、小岭底等敌据点，一部扼守辽县以西狼牙山，阻击辽县可能西援之敌；以第386旅、决死第一纵队各2个团为左翼，攻取榆社沿壁、王景等据点；以新编第10旅为平辽支队，破击平辽公路和顺南北段，截击南援之敌；以太岳军区第17、第57团组成沁北支队，破击白晋路沁县至分水岭段，钳制敌人由白晋铁路抽调兵力增援榆辽地区。
鉴于这次战役的重要性和我八路军没有太多的攻坚战经验，刘伯承、邓小平在命令中特别强调：“如某些据点之敌较久顽抗时，则以各种必要手段，如强袭、坑道作业等，务求克复之！”
战役发起时间预定在23日23时。
二、四攻榆社城
战役命令刚一下达，周希汉便从医院“逃”了出来。他是战役第一阶段结束时入的院。当时，他的双眼已红肿得老高，连走路都辨不清方向。邓小平要他去医院治疗，他还固执地不去，邓小平便派担架把他硬“押”了去，并命令：“未治好不准回来。”可是，当他听说第二阶段战役就要发动时，再也住不下去了，不给医院打个招呼，溜之大吉。
陈赓一见周希汉就笑着说：“不用问，你这次回来没有经过医院的批准。”
周希汉忙把眼皮一扒：“好了，全都好了。”
陈赓见好了八成，非常高兴地说：“你回来得正是时候，又有硬骨头要啃啦！”
陈赓、周希汉经过研究后，决定以第772、第16团，附山炮一门，主攻榆社县城，以第38、第25团分别夺取王景、沿壁两据点。陈赓把“啃”榆社城的硬任务交给周希汉，他自己则亲自直接指挥第25和第38团。
领受任务后，周希汉立即带领第772团团长郭国言、第16团团长谢家庆前往榆社侦察。周希汉背上背着粪筐，化装成一个拾粪的老农民。郭国言身背箩筐，手拿镰刀，化装成割草的。谢家庆则化装成一个走亲戚的。3个人在当地“白皮红心”的维持会会员的配合下，拉开距离顺城转悠。几圈下来，他们把榆社城外围的情况搞得清清楚楚。榆社城的确是个难啃的硬骨头。
榆社城的地形是那种易守难攻型的。城的四面都不太适合于大规模攻击。城的北面没有城关，但遍布着小沟和坟堆；城的东门是通往辽县的公路，日军在此修筑了两个碉堡固守；城的南门外有一条丈余壕沟，沟外还有一个小山包，日军在此设有哨所；唯城的西门城关较大，房屋离城墙较近，可供部队隐蔽和攻城，但日军的防守十分严密。
由于榆社城是日军突入太行根据地的最前沿据点，日军对这里的防守格外重视。驻守的日军是片山旅团板津大队藤本中队。藤本中队素以彪悍善战著称，自进驻榆社以来，利用东关省立榆社中学及文庙等坚固建筑为中心，构筑了大小碉堡8个，配备山炮2门掷弹筒4个、重机枪2挺、轻机枪5挺，并储备了足够1年使用的弹药、枪械、粮秣。该队除分遣70人至王景沿壁外，城内尚有220余人，并还配有伪军60多人。
根据侦察所的情况，周希汉和各团领导经过研究，决定把主攻的方向定在西门，以第772团1个营配山炮1门，攻击西关西南角；以第16团1个营配机关炮1门，攻击西关西北角。两个主力团的两个主力营各配1门炮形成了攻击拳头，猛砸西关，撕开口子，突入城中。为保证主攻方向胜利完成任务，周希汉又在其他方向的部署上作了精心地安排：第772团2个连攻击城南敌哨所，第16团1个营在城北佯攻，并派1个连用火力封锁东门外敌碉堡，其余部队为预备队。
23日入夜，攻击部队按部署朝榆社城方向运动。起初一切都很顺利，但就在第772团主力接近西关城外的房屋时，不知从哪个角落里窜出一条狗，朝隐蔽前进的队伍狂吠不止。狗吠声惊动了城头上的日军，几颗曳光弹射向夜空，爆出耀眼的亮光，攻击部队来不及隐蔽，身影全暴露在亮光之下。日军开枪了，盲目地乱扫乱射，在城四周布成了一个个火力网。
这一意外，使攻击部队近敌作战的计划流产。无奈，各路攻击部队只得冒着炮火向前推进，虽大多抵达了自己的攻击地域，但大部分部队无法发动攻击，小部分能发动攻击的也对敌构不成威胁。
在此情况下，周希汉只得命令各团就地构筑工事，以小部分坚守，主力疏散隐蔽，待令再攻。
第1次攻击失败了。
一夜过去，天空渐渐发亮。失去了黑夜的屏障，立即再攻的可能更加虚无。周希汉心急如火，他紧急召开团、营、连干部商讨对策。大家集思广议，认为虽然狗叫惊动敌人是受挫的一个重要原因，但更重要的是没有把困难估计足，以致在战斗中出现了火力分散，组织混乱，未能压制敌人的火力等情况。这一点打中了周希汉的心理，他立即带领大家，冒着日军的炮火，利用各种地形、地物，爬行抵近日军前沿，仔细观察日军的明暗火力点和碉堡射孔情况。观察时，郭国言灵感一动：
“参谋长，可否组织一批特等射手，专门压制敌人的火力点。”
“对！”周希汉的“天窗”一下子给顶开了。
从前沿退下来后，周希汉立即下令挑选优秀射手，重新组织火力。干部战士们八仙过海，各显神通。他们把敌人的火力点、射孔都编成号，并对自己的火力作了更具体的分工。炮兵把山炮抬到离西门仅50米的一座楼上，从炮膛里直接瞄准日军城门楼的火力点。轻、重机枪和特等射手的射击位置都选得离日军枪眼、射孔很近，保证枪枪命中目标。
下午4点30分，第2次强攻开始了。
周希汉一声令下，各种轻重武器一齐开火，集中地朝日军的火力点和射孔射击。果然，日军很快便失去了开始的猖狂，被我强大的火力压制得无法还手。我攻击部队趁机开始向城关发起猛攻。日军狗急跳墙，从碉堡中喷出了大量毒气，冲击的干部、战士有很多人中毒。不一会儿，日军的4架飞机也飞临榆社上空，对我攻击部队进行低空轰炸扫射。但我八路军不为所动，一举从西关和西关西北角突击进去，占领西关，攻克了两个碉堡，并歼灭了大部守敌。为避免过大伤亡，周希汉命令各团暂停进攻，巩固已占领的阵地，防止敌人反扑。同时，在已得阵地上再次召开干部会议，总结经验，研究敌情，为下一步进攻做好准备。
此时，日军已全部龟缩进榆社中学为中心的核心阵地，在这个阵地的四周，修筑有大小8个碉堡，形成了互相支援的交叉火力网。同时，碉堡外围还砌了人工峭壁，高10至30多米，峭壁上下布有数层铁丝网。看来，日军是要在此负隅顽抗，等待支援。
怎么打？周希汉和各团领导正在研究方法时，陈赓来了。他说：
“25团、38团已攻占沿壁、王景，38团击毙敌60余人，生俘4个，打得非常漂亮。他们说要向老大哥学习，你们打不下榆社可不好交差呀。”
周希汉和在场的团长、政委都说：“没问题，我们一定能攻下榆社。”陈赓说：“好，那就看你们的喽。”
经过充分准备，当晚23时30分，随着嘹亮的冲锋号的吹响，第3次攻击开始了。
炮弹飞向敌人的工事，子弹射向敌人碉堡的枪眼，一排排手榴弹扔向敌群。敌人被打得抬不起头来。在强大火力掩护下，10多个开路先锋手握大侧刀冲了上去，猛砍敌人的铁丝网。第16团5连1排排长一门气竟连破5道铁丝网。很快，几条通道就开辟出来了，冲锋的指战员们迅速架起事先准备好的云梯，登上30米高的峭壁，迅速突破了日军的阵地，攻占了碉堡群。
残敌再度收缩，全部退到榆社中学里，依托一个最大的碉堡和围墙负隅顽抗。他们一次次施放毒气，处于下风指挥所里的陈赓和第772团3营的指战员们全都中了毒。一个个感到头晕眼花，又咳嗽，又流泪，又淌鼻涕，非常难受。考虑到经过连续攻击，战士们已经十分疲劳，中毒后不易恢复，很难保持旺盛的冲击力，周希汉决定部队暂时停止攻击。
为了陈赓的安全，周希汉推他走：“旅长，你放心，这里有我，一定会把榆社拿下来，你就到后方指挥所去吧！”陈赓固执地说：
“我要看到你们打下榆社才走。”
周希汉拿陈赓没办法，只好让他留下。
周希汉再次召开阵前干部会议，研究打法。大家都认为榆社敌指挥官藤本还没有被打死，残敌都集中在核心阵地内，一定会凭险死守，顽抗到底。而且，敌人火力已相当集中，如不智取，伤亡会很大。陈赓道：
“大家都开动脑筋，一定会想出好的方法来。”
大家你一言，我一语，纷纷拿出自己的主意。经过反复讨论，大家最后形成一致意见：采取坑道作业，把坑道挖到敌人核心阵地内，用棺材装上土炸药实行爆破，让敌人坐回土飞机。方案定下来了，各团立即分头行动。
坑道从西北角的峭壁开始一直要挖到中学里的碉堡下面，工作量相当大，战士们不辞劳苦，日夜奋战，到25日下午，坑道作业胜利完成。早已准备好的装满炸药的棺材，被战士们运进了坑道。
新的攻击发起前，陈赓把干部召集到一起，在给他们鼓劲的同时，也表达了他要迅速结束战斗的决心：“在前几次的攻击中，敌人的主要工事，差不多都被我们攻下了。现在敌人只剩东北角的一个碉堡和中学里的一些房子，只要大家再提高一步顽强性，一定一可以攻下来。所以今天的要求是：在今天这一次的攻击中，一定要最顽强地去完全占领榆社城。”
4时30分，随着周希汉的一声令下，只听“轰隆”一声，如闷雷滚过低沉的天空，又如整个榆社城发生了强烈的地震，地晃屋摇，人心震颤，爆炸中心的碉堡顷刻间崩塌了。
第4次攻击开始了。
战士们在爆炸的余音尚未散尽、爆破后的硝烟正在浓烈地升起、敌碉堡正在分崩离析之际，如潮水般地冲入敌人阵营。
第16团团长谢家庆命令2营的重机枪朝着碉堡被炸开的缺口掩护射击，自己则亲自带领2营突击部队，冲进缺口，与友邻部队配合，攻克碉堡，冲入中学。这时，第772团两个营在郭国言团长的率领下也分别从西南角、西北角攻入。残敌仓皇退守几座坚固的平房里顽抗，进攻的八路军战士把一排排手榴弹扔了进去。激战40分钟，日军在混乱中集结到二三十人，在一小队长的带领下突出包围，向东北辽县方向逃去。谢家庆率领一部分部队向日军平行猛追，另一部分则跟踪尾追，追击至榆社东十五六里处，逃走的这股日军已被我追赶部队消灭大部，剩下10余人，没逃多远，又被我385旅堵住了去路，在前后夹击之下，日军乖乖成了俘虏。
在日军开始逃跑时，指挥榆社守敌顽强抵抗的日军中队长藤本自觉有负大皇的重托，在榆社中学的东南角处剖腹自杀。他的头被其部下割下，带着一起东逃，也还是落入了八路军的手中。
还有少数的日军未及逃出，躲藏起来，陈赓、周希汉亲率少数部队，将其全部肃清。
至此，连续激战3天的战斗胜利结束，220多名日军和60多名伪军除10余名日军和部分伪军被俘外，其余被干净、彻底地消灭掉。我军伤亡官兵约200人。
被解放了的榆社城，群众欢天喜地。陈赓和周希汉在城里巡视了一圈后，心里就乐开了花。日军给我们留下了大批的军用物资，其中山炮2门、掷弹筒4个、轻重机枪8挺、无线电1架、电话机3部和大量的枪支弹药、粮株、被服。这些都是八路军梦寐以求的东西。