就在陈再道的冀南纵队挥师北上打援的同时，刘伯承电话令北边南下尾追之十七师让开大道，以诱迫彭毓斌所部撤逃。而彭毓斌占据老爷山、磨盘垴以及山下以北村庄之后，就地修筑工事，抵抗八路军的攻势。老爷山四条山梁，主峰老爷岭在东北面。老爷岭山顶有一古庙，庙旁有清泉长流，扼守老爷巅便是守住生命线。彭毓斌将两个师兵力扼守老爷岭和磨盘垴两个制高点，将主力部队摆在老爷山至榆林镇一线，与八路军展开决战架势。
部署完毕彭毓斌便发电报给阎锡山：“长治周围，五城尽失，已无必要花大代价强行突破。我军现在已占领老爷山、磨盘垴一线，共军主力北上阻击，已被我军牵制三分之二，余者不足以下长治，史泽波可保无虞。共军强行进攻老爷山等地屡遭惨败。共军意在速战速决，不敢久峙。因此，拟在老爷山、磨盘垴吸住共军，然后逐次消耗，使其疲惫，捕捉有利时机歼灭之，以期中局取胜。”阎锡山在太原接到彭毓斌报告，心中大喜，拍案叫好，对手下人说道：“共军主力已被我南下大军牵制在老爷山、磨盘垴一带不能脱身，长治城是保住了。待敌疲惫之后，我大军两路夹击，共军必败无疑。还是咱老彭有道道。”
但是彭毓斌并没有想到自己虽然居高临下，依山挖构工事，并将大炮隐于山上，本以为万无一失。特别是老爷山主峰老爷岭在东北山梁之北，山顶只有正面一条路可通，背后是百丈绝壁，按守军说法，山后绝壁“万难通行”。因此晋绥军第四十七师首先抢占老爷山之后，将粮食弹药运往山顶古庙，派一个加强排看守，真所谓是一夫当关万夫莫开，补给线，供水线得以确保，然后将全部主力顺推至半山腰险要地带构筑工事，自认为布阵天衣无缝，滴水不露。
八路军从三面发起进攻，山上只要有序射击，便可以阻敌于山腰。山地不利土工作业，仰攻又甩不上去手榴弹，八路军士兵每只枪平均不到十发子弹，拼刺刀又不能接近敌阵地，其强项一项也发不出来。但没有想到的是八路军十月四日夜从山后绝壁登上老爷岭，一举夺取了晋绥军第四十七师的水源和补给中枢。面对断水绝粮的困境，老爷山上晋绥军第四十七师兵败如山倒，只有一小半人马逃回西窳一带与主力会合，其余被八路军包围，缴械投降。
老爷山失守、磨盘垴吃紧，令彭毓斌在指挥部急得团团转，这时候，才感到形势不妙，有被八路军军全部吃掉的危险。在一番思想斗争之后，彭毓斌只能决定马上回撤沁县。他把几个师长叫到跟前说：“我们被共军包围，老爷山已失，我们现在是自救不暇，救长治已不可能，若再拖下去有全军覆没之危险，我决定放弃阵地，回撤沁县。”他又告诫各位师长说：“我们后退命令一下，士兵们有可能争先退走，造成混乱，给共军以可乘之机。这次回撤应稳扎稳打，给共军造成我军要继续南下之假象，所以我命令四十四师、四十九师在作好回撤准备之同时，继续向南佯动，后勤补给部队先行撤退，待后勤部队撤退后，你们可将后卫作前锋，有秩序向北撤回。只要撤至虒亭以北，便是胜利。但咱们有言在先，如果哪一部分不战自乱，惟长官是问，到时，别怪我不客气！”
命令发出之后，第四十四师，第四十九师马上着手准备，将部队调整，大部分作继续南下姿势，指挥部人员和辎重部队则回头北指，等待撤退命令一下，便可向北撤退。这样的安排看似合理。但事实上毓斌将指挥部、后勤部队带上大路朝北撤退之后，下达全军后撤的命令。第四十七师余部在先，随后第四十四师，磨盘垴六十六师陆续撤离，但后撤部队刚离开阵地，便被八路军的太行纵队陈锡联所部咬住不放。
而争先逃命的各战斗部队终究多是轻装步兵，很快便赶上了先行一步的辎重部队挡道，炮兵、后勤战斗部队混搅在一起，一时之间序列杂乱，撤退行动再次受阻。彭毓斌只好临时改变行动序列，将战斗部队调前，辎重、后勤等人靠后，部队才有了些秩序。得到调动完毕，彭毓斌才自带指挥部一百多人及下属部队两千余人直奔虒亭。
到了虒亭，彭毓斌长长出了一口气，他想起当年曹操兵败赤壁，败走华容道的故事，觉得与自己略有些相象，不禁对部下说：“要是共军在虒亭埋伏一支部队，我们就全部完了！”但他又想到大队人马还在虒亭浊漳河以南三面受敌，不尽快从漳河北渡，则危险未除。但由于联系已断，他只得派人到后面传令，催后撤部队千万不要和八路军纠缠，快速渡浊漳河以脱离险境，然后自带一干人马直奔沁县去了。
事实上以彭毓斌的智慧其实早应想到刘伯承的“围三阙一”要的不是晋绥军的不战而走。长于运动战的八路军又怎么可能放弃浊漳河天险阻击的机会呢？彭毓斌率领的指挥部刚刚渡过浊漳河，八路军第三八六旅的阻击部队便抵达了浊漳河西岸土落村。土落村位于虒亭西北，是个制高点，为北上沁县惟一通道，晋绥军只有从这里渡过漳河，才能北上窜逃。
但可怜两万多晋绥军步兵于十月七日天亮抵达在公路两侧的洼地上，像蚂蚁一样涌向漳河口。他们原以为八路军三面包围，北面是个空隙，可以放胆北进，不料先头部队刚要接近河口，前面响起猛烈的枪声，八路军已控制了河口，切断退路，先头部队只得被迫后退。这一打击，不啻于心头一刀，对后撤的晋绥军造成不小的心理压力。
初期晋绥军还试图组织进攻，撕开一个突破口。以猛烈的炮火轰击八路军河口阵地，步兵也在炮火掩护下向八路军阵地发起冲锋。但八路军扼守河口，寸步不让。又看准晋绥军军不善短兵相接，当其发起冲锋时，八路军以连为单位发起反冲锋，以血肉之躯和敌人绞杀在一起，一次次白刃格斗，从早晨到中午，从中午到下午，虽然双方均伤亡惨重，但腹背受敌的晋绥军土气一次比一次低落，当第八冲锋被打退之后，再也组织不起像样的冲锋了。到了傍晚，太行、冀南纵队以及张祖谅所率太岳纵队主力，分别从左中右三个方向围拢上来，晋绥军已无斗志，像没头苍蝇一样到处乱窜，包围圈越缩越小，指挥系统失灵，士兵们争相逃命，纷纷缴械投降。连民兵游击队和当地群众参与到了扫荡溃兵的行列，因此战斗只进行了三个小时，晋绥军两个军八个师便土崩瓦解。第四十九师师长张宏、第六十六师师长李佩膺、第四十六师师长郭溶、炮兵司令兼副总指挥胡三余等二十七名将领及麾下上万官兵全部被俘。
第七集团军副总司令彭毓斌带两千余人逃回沁县，他的头部负伤，一面让人扎伤口，一面在电话里向阎锡山报告战败经过，但是他刚喊了两声：“阎长官，阎长官……”便遭到了阎锡山厉声呵斥：“阎长官，阎长官，你喊阎王老子去吧！我的彭副总指挥，你说中局取胜，中局取胜，全是鬼话！你畏敌怯战，弃军先逃，两万之师毁于你手，该当何罪，你自己惦量！”
这些话说的彭毓斌悔恨羞愧交加，当即拔出手枪，不等阎锡山说完，便对着脑袋开了一枪。阎锡山还要训斥，听见电话里一声枪响，知是彭毓斌自决了，撂下电话，把手按在头上坐了好一阵。彭毓斌的增援部队溃灭，长治的守军便也插翅难逃。长治守军待援无望，于8日向西突围，企图逃回浮山、翼城。晋冀鲁豫区太岳部队跟踪追击，至12日将其歼灭于沁河以东之将军岭、桃川地区，投入上党战场的晋绥军全军覆没。这不下四万人马不啻于剜了刚刚重掌山西的阎锡山的心头之肉。但是彭毓斌的自戕却更令他悲感失落和悔恨。
晋绥军全盛之时，也是人才济济，有所谓“十三太保”之称，自抗战以来竟将星寥落。商震、徐宗昌、傅作义、陈长捷先后出走，李生达、李服膺又死于自己的枪下。可谓“十去其七”。而今天彭毓斌又兵败自杀。阎锡山更感愧疚。毕竟彭毓斌一直对自己忠心耿耿，驰援长治更是不遗余力，自己盛怒之下对他的苛责言辞也未免太过激烈了一些。
一向迷信的阎锡山只能将这一惨败归结于天意，他问参谋：我下令增援的时候是不是有一群乌鸦在院里的大树上叫？参谋说好像是有乌鸦在叫。阎锡山听了，便捶足顿胸，后悔不迭地说：“好糊涂呀，乌鸦是祸鸟，明明有乌鸦在树上叫，还派兵去增援！结果是史泽波没有救出来，连彭毓斌带去的两万人也白白地送给了**啊！”
痛心归痛心，悔恨归悔恨。但是阎锡山独占山西的野心却不会因为这一场惨败而收敛。1946年1月，国共双方达成停战协议。阎锡山命令所部于1月13日午夜停战协定生效前，抢占地盘并向八路军进攻。3月3日，军事调解处三人小组来太原视察，阎锡山口头上表示愿意和平解决国事，私下却表示要准备大打，并且反对遣送日本战俘。
便如中国**领导人**所说：“国民党一方面同我们谈判，另一方面又在积极进攻解放区。包围陕甘宁边区的军队不算，直接进攻解放区的国民党军队已经有八十万人。现在一切有解放区的地方，都在打仗，或都在准备打仗。……有些地方仗打得相当大，例如在山西的上党区。太行山、太岳山、中条山的中间，有个脚盆，就是上党区。在那个脚盆里，有鱼有肉，阎锡山派了十三个师去抢。我们的方针也是老早定了的，就是针锋相对，寸土必争。这一回，我们‘对’了，‘争’了，而且‘对’得很好，‘争’得很好。就是说，把他们的十三个师全部消灭。他们进攻的军队共计三万八千人，我们出动三万一千人。他们的三万八千被消灭了三万五千，逃掉两千，散掉一千。这样的仗，还要打下去。”
在此关键时刻，第二战区参谋长郭宗汾曾有过实现“局部和平”的设想，期望承认**人在山西的抗日根据地，甚至请回薄一波，组建山西联合政府。在山雨欲来的国共大决之中，保全山西一省的和平。但是阎锡山抛弃自己一直倡导的“中的哲学”，拒绝了郭宗汾这个建议，全力备战。但是阎锡山清楚麾下晋绥军的特点，这支部队长于防守，不善野战。因此阎锡山着手在太原、大同等地修筑碉堡7000余个。准备以守代攻，以待全国局势之变。
毕竟在1945年的华北战场上灰头土脸的并非晋绥军一家，就在上党战役后不久，孙连仲的十一战区也投入了第四十军马法五，第三十军鲁崇义所部，原西北军高树勋之新编第八军及属高树勋统率的河北民军乔明礼部，以八万之众在郑州集结北犯邯郸，试图打通平汉线。
孙连仲是早年冯玉祥麾下西北军的悍将，在北伐战争、中原大战及抗日战争之中均有不俗的表现。因此奉命进攻八路军之时，一度气焰嚣张，孙连仲大谈当年业绩：“想当年，日寇侵华军矶谷师团不可一世，我军与之血战台儿庄，敌四万之旅被我打的落花流水；其后随县、枣阳会战，我部在襄河重创日军，此均乃我军之无尚光荣。”
说到后来竟手舞足蹈起来“诸位将军，晋东南一役，我**准备不足，让刘伯承捡了便宜，其中缘由自然很多，不必细说。然共军经此战役，必然疲惫，此正我北进之最隹时机。平汉线之共军部队，乃土八路临时凑集，武器装备极差，且共军只善游击作战，大兵团作战，阵地战，未之听闻。我们几十万大军，远非阎老西部队可比。他们根本不是我**对手，实不足虑，消灭此华北匪患指日可待矣！我们的目标是，两天到安阳，五天下邯郸，十天打到石家庄！”
但是之后，孙连仲又说：“我不日将去重庆面见委员长，重庆之行之后，我去上海有点事，我于上海直飞北平受降，在北平等待你们的好消息。我走之后，战区副司令长官马法五兄负责统率三军，战区参谋长宋肯堂代行我的职责协调三军之行动。”这样主帅孙连仲远离了平汉前线，而三军统帅也不知究竟是马法五还是宋肯堂。为**各部进逼邯郸留下了隐患。
部队开进安阳之后，便立即产生了分歧，宋肯堂和鲁崇义认定八路军方面刚刚结束了上党战役，邯郸方面必定空虚，利在速战。而马法五和高树勋则认为八路军历来有长途奔袭、连续作战之作风，而邯郸地区八路军方面拥有广播电台、地方武装、民众基础的优势。孤军深入就有被围困之危险，不可不慎重行事。因此北渡漳河之后，因采用左右两纵队并列齐进，交替掩护，互为救应的方式推进，每纵队又以前后两梯队呼应，以避免其中一部被分割包围之危险。
事实上当时八路军在邯郸市内守军不足一千，这个数字还是连机关工作人员都算在内。而当时其他主力部队还在翻越太行山的过程之中。但刘、邓仅以韦杰为司令、张国传为政委，三个团组成独立支队勇猛奇袭**侧背，炸毁了漳河沿线多处桥梁，迟滞了**两天的时间。为晋冀鲁豫军区一纵、二纵、三纵主力部队的陆续抵达争取了时间。
而**部队虽然派出工兵部队于漳河桥上架设桥梁，先头部队于桥头掩护架桥。但是北进速度已被拖延，24日，晋冀鲁豫军区后续部队已大部赶到，将**主力三面包围于邯郸以南、马头镇以东、商城以西之狭长地带。28日，后续部队全部到齐，遂于当日黄昏发起总攻。战至30日，歼灭国民党军第一○六师大部，重创第三十军。高树勋率新编第八军等约1万人在战场起义。31日，国民党军主力突围南撤，军区部队在追击、夹击中，于下午将敌合围于旗杆漳一带，并以主力展开猛攻。战至11月2日，国民党军除少数逃脱外，全部被歼。此役，除新八军等部起义外，共毙伤国民党军3000余人，俘副司令长官马法五以下1.7万余人。
对于孙连仲所部在邯郸的溃败，阎锡山可谓又惊又喜，惊的是八路军方面战斗力强悍，在上党一口气歼灭晋绥军近四万之众后，不到一个月间便转战冀南，以六万主力部队击溃**八万之众，可见其战斗力之强悍。但喜的却是孙连仲所部的惨败不仅令晋绥军在上党地区的失败相形见拙，堵住了**其他派系的“五十步笑百步”之口。更证明抗战虽然没有出现他所预计的“中日不议而和”的局面，但是“国共不宣而战”却已是铁板钉钉的事实。虽然八路军在三晋之地根深蒂固，兵力雄厚。但是在**绝对优势兵力的进攻之下，阎锡山相信自己重掌山西指日可待，自己所要作的就是固守已控制的各大城市，积蓄力量，只待八路军主力调走，便可全线反扑。
果然1946年6月下旬，蒋介石公开撕毁停战协定以大举围攻中原解放区为起点，发动了对解放区的全面进攻。全面内战由此爆发。而山西是晋绥、晋察冀、晋冀鲁豫三大解放区的依托和腹心地带，是东北、西北、山东和华中各解放区相互之间联系的枢纽。由于处于华北战场的中心，自然是**方面阎锡山和傅作义、胡宗南三大战略集团的攻击的中心，但同时也是支援人民解放军在西北、中原和东北战场作战的重要配合战场和战略后方。
而以山西为中心的晋冀鲁豫解放区、晋绥解放区和晋察冀解放区及环绕与穿插其间的平汉铁路、同蒲铁路、正太铁路和平绥铁路，更成了两军争夺的主战场。对于蒋介石说实行的全面进攻战略阎锡山可谓是亦步亦趋，在山西各地向八路军展开进攻。
第二战区撤销后，阎锡山以太原绥靖公署主任兼山西省政府主席的名义，继续掌握着山西的军政大权。他继续推行在抗战期间为解决兵源和粮食问题而制订的“兵农合一”政策，将18岁至48岁的壮丁每三人编为一组，一人为常备兵入伍当兵，二人为国民兵各领一份“份地”在家种地，打粮食供给常备兵家属。他在晋中抓丁7万余人，为他充当炮灰；加上横征暴敛，致使土地荒芜，民不聊生。他继续强化特务统治，除由“政卫组”负责军队内部的“肃伪”外，又将“民族革命同志会流动工作队”改组为“太原特种警宪指挥处”，并在各县成立“特警队”，专门在社会上进行“肃伪”，数以百计的**员和进步人士死于这两个特务组织的屠刀之下。