临汾既下，晋南全境解放，晋冀鲁豫解放区和晋绥、西北解放区已连成一片，阎锡山的统治区域缩小，处境更加孤立。他作出了这样的判断和决策：“共军在临汾伤亡两万多，大大损了元气，不可能很快恢复，更不可能一步跨入我晋中腹地以卵击石!我军在晋中的主要军务，就是趁麦收屯粮于手，巩固晋中、保住太原……”
当时阎锡山在山西的兵力尚有3个集团军（5个军14个师）、3个总队、22个保安队，21个警备大队，共13万人。他要抵抗解放军的战略反攻，保住老巢，就要首先解决军粮问题。以每人每天1．5市斤食计，每月就要耗粮585万斤，再加上大小城市和县镇居民口粮，阎锡山怎么能不感到头疼。好在晋中平原，沃野千里，粮丰菜绿，猪肥马壮，于是乎阎锡山决定派出重兵保粮、抢粮、屯粮。
阎锡山为防止徐向前挥师北上，专门组建了“闪击兵团”，作快速机动之用。他提出“一跑万有，一跑万胜”的“运动战”，来对付徐向前的“运动战”。两位一河之隔的老乡，在晋中拉开了决战的姿态。阎锡山虽然知道整个战局不妙，但他仍是幻想不灭。把希望寄托在美国出兵中国，寄托着第三次世界大战的爆发。他知道徐向前这位老乡用兵如神，但又知道徐向前在山西总共不到6万人；而他自己手中尚有10余万精兵。一向会精打细算的阎锡山，心里自然清楚这个对比的意义。
而为了防范徐向前率军北上，阎锡山将把守晋中南大门的重任交给了“闪击兵团”司令高倬之，又嫉羡**在东北有“三只虎”（“天下第一纵”—东北野战军第一纵队、“旋风纵队”—东北野战军第二纵队、“攻坚老虎“—东北野战军第六纵队），于是说晋中也有“三只虎”，这就是晋绥军“闪击兵团”的第三十四军、第四十三军、第六十一军，还有两个“亲生”的“亲训师”、“亲训炮兵团”。阎锡山计划以一部兵力据守晋中各县城乡据点，控制晋中平原通往山区隘口要地，以其主力机动于铁路、公路沿线，摆出与解放军周旋决战的架势。
但世人都知山西人能算计，徐向前也不例外。面对阎锡山的部署，6月上旬，徐向前派遣吕梁军区地方部队进入孝义和汾阳地区活动，同时部署太岳部队由南向北挺进，相机攻占灵石县城，他率兵团主力由太岳山区东倒隐蔽向晋中敌侧背地区开进。
果然6月11日，吕梁军区部队突然出现在汾阳、孝义以西的高阳镇地区，威逼汾阳、孝义两城。12日沿同蒲铁路北上的太岳军区部队一部，解放了晋中南端的灵石县城。次日阎锡山便指派其第34军军长高倬之，率“闪击兵团”等部共13个团的兵力，以所谓“藏伏优势”和“三个老虎爪子”战术，向心合击高阳镇。又派其“亲训”的第72师和“亲训”炮兵团增援。
徐向前见敌军主力已被诱调出剿，当即率兵团指挥所向子洪口要隘兼程进发。子洪口是两山狭谷的咽喉之地，阎锡山构筑了星罗棋布的碉堡群，其中最为坚固险要的白狮岭据点，在子洪镇南侧，居高临下，控制着公路的出入口，晋绥军称为坚不可破的“金钢岭”。徐向前避实击虚，并没有攻击子洪口。而是利用祁县及其南面平遥之间守备空虚的机会，令主力第八、第十三两纵与太岳军区部队，以突然动作，拦腰侧击介休至祁县间东南山口的晋绥军据点。
阎锡山没料到徐向前部会大踏步前进，向自己的腹心杀来，更没想到徐向前对子洪要塞置之不顾，而“金钢岭”守军，又竟然连眼皮下面通过的大部队也没有发现，失守了门户。为保太原的绝对安全，阎锡山急命高倬之回师东“跑”。晋中的盛夏，天旱少雨，烈日当空，战地流火。可怜高倬之和晋绥军的“闪击兵团”前锋刚开到进到平遥的大甫村和曹村，便钻进了徐向前设置的“口袋”。预伏的第八纵队和太岳部队，采取中间突破和前后夹击的战法，将晋绥军主力压缩到铁路西与汾河东狭窄河滩地区，同敌激战了3个多小时，“亲训师”被全歼，副师长白玉崑，参谋长刘国祥等大批军官被俘，师长陈震东被击伤后逃回太原。解放军第十三纵队于平遥东北之北营村又歼灭晋绥军暂四十师师部及其两个团、暂四十五师1个团。阎锡山听到这个消息，差点晕倒在地,连连长声哀叹：“我阎百川白活了六十五，让个邻村的乡亲后辈徐向前整的好苦。”
眼前高倬之无能，阎锡山只能派出晋绥军硕果仅存的名将第七集团军中将总司令兼野战军总司令赵承绶，到南线指挥作战。25日，赵承绶令高倬之统率第三十四军两个师，由平遥北上；沈瑞率第三十三军两个师，由祁县南下，由日本军官晋树德率保安第十总队，由榆次开抵东观，企图在祁县、平遥以东地区，与解放军进行主力决战。
而徐向前则：以十三纵位于中梁监视东观的保安第十总队；太岳部队插洪善、平遥间，监视平遥的晋绥军第三十四军，八纵一部插洪善、祁县间准备堵溃打援，主力则从平遥东山北依涧正面出击；吕梁部队位于汾河东岸控制长寿及徐家桥，背水出击，协同八纵主力割歼晋绥军；肖文玖所部在榆次以南地区积极活动，配合作战。
晋绥军的两个军，从26日起，向祁县、洪善一线猛攻，其第三十三军并尽力向南，与第三十四军靠拢。解放军吕梁地方部队渡过汾河后，虽然担负切断两军并拢的任务，以便配合主力部队消灭第三十四军。但是27、28日遭晋绥军第三十三军三个团及第三十四军一部攻击，最终由于伤亡过重，被迫退往河西。这一行动，打乱了徐向前的部署。同时，八纵动作迟缓，未及时出击，致使晋绥军两个军靠到一起，筑起工事与解放军对峙。
这时北面的榆次、太谷、徐沟、祁县地区，晋绥军守备薄弱，战场较宽，麦收正在进行。徐向前决心以主力北上，切断对手粮源，野外围歼。具体作战部署是：以太岳部队并肖文玖所部攻歼太谷守敌，破袭榆太铁路；吕梁部队袭取徐沟；八纵主力控制祁太铁路以南地区，；十三纵主力集结东观以南地区，以一部破袭祁太铁路；孙(超群)张(达志)集团）（七个团，晋绥军区部队）切断黄寨至太原的铁路，威胁太原，牵制晋绥军第六十八、四十九师南援。如赵承绶兵团由平、祁向太谷增援或回窜太原，则集中八纵、十三纵、吕梁部队及太岳部队一部共九个旅的兵力，在祁太铁路南北地区予以围歼。
断其交通是迟滞晋绥军主力、防其北窜的有效手段，也是解放军争取时间，创造战场的重要一环。晋中平原，地势狭长，中间有同蒲铁路直贯南北，晋绥军占据一系列县城和铁路沿线据点，既可坚工固守，又利运动集结。如果战事不利，一昼夜之间，便能逃之天天，窜回太原去。在这种情况下，大力破袭铁路，控制沿线重要据点，便成了关系整个战局中的一个决定性环节。七月二日，太岳地方部队以一昼夜急行军，插入太谷、榆次间，配合肖文玖所部，展开大规模的铁路破袭战，逼晋绥军进入解放军预设的战场。
赵承绶发现解放军主力向北运动，6月30日，即令所部停止在洪善地区的攻势，准备回师太原。7月2日，晋绥军第三十三军主力进至太谷地区，第三十四军及保安十总队也向祁县集结。平遥、介休两县城，仅留一些地方部队驻守。徐向前当即令八纵紧紧咬住祁县的第三十四军，并以一部攻占徐沟；太岳部队及肖文玖所部顶住太谷晋绥军第三十三军主力的攻击，十三纵袭占东观镇，力争将晋绥军主力逼入徐沟、太谷、榆次之间的三角地带，予以包围全歼。
7月3日至6日，是晋中战役最吃紧的时候，在北线的太岳地方部队和肖文玖所部在榆次、太谷间，连续破袭铁路、桥梁、据点，迅速控制了北起东阳镇、南至董村的地段，斩断晋绥军通往太原的通道。从7月3日起，晋绥军先后以保安第九总队、第七十一师全部、第四十六师一个团及保安十总队九个团的兵力，配属装甲车三辆、山炮三十余门、轻重追击炮四十余门，在数架飞机掩护下，轮番向董村猛犯，赵承绶及第三十三军军长沈瑞亲自坐阵指挥。榆次守军也出动两个步兵团和一个炮兵团，南下东阳镇，向肖文玖所部阵地猛攻。
肖文玖是江西省吉水县人，绰号“肖坦克”，是当时麾下徐向前有名的猛将，抗日战争曾随聂荣臻在晋察冀军区。历任二纵五旅旅长、七旅旅长。1945年9月，肖文玖率领五旅和配属给五旅的二纵四旅第十二团共万余人，在怀来阻击**李文兵团4个师的兵力。怀来保卫战打了14天，五旅毙伤俘敌3000多人，完成了保卫怀来的任务。但是此刻时任北岳军区副司令员的肖文玖手中只有北岳第2分区和太行第2分区的地方武装7000人。这样的兵力和所配备的武器破袭道路还可以，正面阻击一支正规军的道路，却几乎只能说用“螳臂当车”来形容。
但就是这样一只小小的“螳螂”最终掀反了赵承绶的战车。在3天3夜的顽强阻击，肖文玖所部有个连打得只剩下九个人，阵地却屹立不动。鉴于肖文玖所部守如礁立，赵承绶不得不改变沿铁路北撤的计划。7月6日夜，离开铁路线，从榆次、徐沟间夺路北窜。但这样却进入了徐向前的预设战场。
徐向前以十三纵及八纵一部，追击晋绥军第三十四军，抢先一步插入徐沟以东、子牙河以南、尧城镇以东地区，断其归路，以太岳地方部队及肖文玖集所部西向接通十三纵，以吕梁主力跨河东进榆次西南永康地区，堵溃打援；令八纵主力七日攻占祁县，歼灭晋绥军第三十七师师部及两个团，八日北上徐沟东南地区，完成合围。至此，晋绥军最后的野战主力完全陷入了徐向前的合围之中。
但当此之时，解放军冒着酷暑烈日，连续行军作战，不仅疲惫至极，且减员甚大。抓来的俘虏，来不及训练教育，就补充到部队里，开小差的不少。八纵一个主力团，每连不足七十人，最少者仅二十七人。十三纵第三一七旅为人数最多的部队，每营也之剩两个连，每连两个排，每排两个班。徐向前也深感兵力不足。而对前指人员说：“我们包了个大馅饺子，但皮很薄啊！”
而武器装备更不如对手。主力第二十三旅刚结束解放祁县县城的战斗，步兵强行军赶到预设战场，重炮没调上来，请求推迟总攻时间。“不行，时间就是胜利”，徐向前回答，“现在用一发小炮弹就可打掉的敌人阵地，等敌人喘过气来，就要用三发重炮弹，你们算过这个账没有？！”
在这样的情况下赵承绶如果集中兵力，猛攻一点，组织突围，晋绥军仍有可能溃围而出。此时阎锡山发觉前景不妙，电令赵承绶立即从小路和田埂撤回太原。赵承绶也无心恋战，但却找来副司令、保安第十总队的残留日军将领原泉福商量，结果遭到了原泉福极力反对，原泉福大骂阎锡山胆小鬼，要赵承绶把部队集中起来，“同共军决一死战”。赵承绶无奈，只好听原泉福摆布，不但没有集中兵力突围，反而分兵三路向解放军进攻，企图一决雌雄。
从某种程度上来原泉福并没有错，日军崇尚进攻，在兵力火力都弱于对手的情况下仍喜作困兽之斗，何况现在还占据着一定的优势呢？但是原泉福显然忽视了一个大前提，那就是除了第十总队之外，他的部下大多是来自山西的中国人。并没有经受过常年武士道的精神扭曲。因此除了7月8日，晋绥军第三十四军第七十三师及保安第十总队在榆次以南的东辋村，一度打通由榆次退往太原的通路之外。其余各路出击部队均没有取得任何进展。
经两天一夜的激战，十三纵队攻下了晋绥军第三十四军指挥部大常镇，中将军长高倬之被击伤后，丢下阵地，化装逃回太原。全军溃散。八纵血战南庄，摧垮了以日军残余为骨干的第十总队。解放军随后全力围攻驻有赵承绶的野战军总部、沈瑞的第三十三军军部及原泉福的残部的小常镇。16日下午，赵承绶曾率部在空军的掩护下拚命突围，但是在猛烈火力封锁下，无法突出。赵承绶仍想组织抵抗。是时，一颗炮弹落到赵承绶指挥部的院子内，原泉福小腿被炸伤，他在绝望中即开枪自杀。7名日本军官也纷纷拔枪自杀，赵承绶见此情景，听任部下四散逃命，自己与沈瑞束手就擒。
此时的阎锡山惊惧交并，完全乱了章法。一面令第四十五师、第四十九师及四十师残部组成“南援兵团”，从太原向榆次西南开进，企图援应赵承绶残部突围；一面慌忙收拢晋中各县兵力，向太原集中，以确保老巢。一夜之间，汾河两岸的晋绥军纷纷离城，游蛇般的乱插乱窜，正给我野外歼敌以大好时机。
此时徐向前立即调整部署，除以十三纵及太岳地方部队主力继续围歼赵承绶残部外，其余部队均用于追击和堵截企图北窜之敌。以八纵二十三旅及太岳两个团、吕梁七旅一团东向，堵歼逃离太谷的晋绥军保安九总队；八纵二十四旅及吕梁部队组成“汾西集团”，西渡汾河堵击河西逃敌；肖文玖所部由辋材开抵王香、内白村一线，堵溃并打击晋绥军“南援兵团”；孙、张集团逼近太原，牵制晋绥军。
解放军各部星夜出动，势如破竹。13日，东路部队于朱村地区全歼晋绥军保安九总队，进而占领太谷县城。14日，解放军“汾西集团”将河西两万多晋绥军截击于太原、交城间，一举歼灭八千余人。十六日，赵承绶兵团的最后据点小常村被解放军攻破，晋绥军残余万余人全部就歼，赵承绶及中将参谋处长杨城、三十三军中将军长沈瑞和少将参谋长曹近谦，均被我十三纵三十九旅一一七团三营活捉。
至此晋中战役宣告结束，是役历时整整一个月。解放军先后共歼晋绥军正规军七万余人，非正规军三万余人，俘获赵承绶以下将官十六人，击毙师以上军官九人，晋绥军主力第七集团军总部及五个军部、九个整师、两个总队全部就歼。10年前，徐向前作为**代表团成员来到太原，同阎锡山商谈联合抗战的事。徐向前多次同晋绥军的高级将领见面。在一次集会上，赵承绶把徐向前介绍给他的部属说：“请俺们五台徐向前将军训话！”谁知道多年之后，竟以俘虏的身份相见。
为了缓和一下气氛，徐向前问：“你看我们作战指挥上有什么缺陷？”赵承绶不敢正视徐向前，喃喃地说：“战败的人，哪能看出缺陷！要能看出来，能走到这一步！”可叹一代名将为了苟活，竟连最后的骨气也消磨去了。晋中决战之后灵石、平遥、介休、祁县、太谷、榆次、汾阳、孝义、文水、交城、清源、晋源、徐沟、忻县等十四座县城全部解放。三晋大地之上只剩下太原一座孤岛，风雨飘摇。
“老头子于8月3日，曾在南京召开军事检讨会。参加会议的有120多人，主要将领和高级幕僚参加会议的有何应钦、顾祝同、白崇禧、林蔚、刘斐、肖毅肃、关麟征、周至柔、王叔铭、桂永清、汤恩伯、范汉杰、杜聿明、宋希濂、黄维、李默庵、霍揆彰、孙立人、黄伯韬以及刘峙的代表李树正、胡宗南的代表沈策等人。”太原已经陷入重围，黄河以北事实已不可为。回首两年以来的“戡乱”战区，李延年也惟有以无奈对之。
“会议开张当天，老头子作了题为《改造官兵心理加强精神武装》的讲话。他倒是承认：就整个局势而言，则我们无可讳言的是处处受制、着着失败！到今天不仅使得全国人民的心理动摇、军队将领信心丧失，士气低落，而且中外人士对我们**讥刺诬蔑，令人实难忍受。但是却说军事失败的原因根本原因是—‘因为我们一般高级将领自己的精神堕落，生活腐化，以致部队情感隔阂，士气消沉，战力消失’。因此要‘起死回生’，莫过于改造精神，改革生活，明廉知耻。”对于这样的良药，李延年只能报以苦笑。经过了两千年的封建历史，中国人都知道“文官不爱钱，武将不惜死”。但是要真正作到，却又谈何容易。
何应钦在会议的第3天作了全盘军事形势报告，公开了两年来作战消耗的数字，兵员的死伤、被俘、失踪总数达300多万人；损失步枪100万支，轻重机枪7万挺、山炮野炮重炮1000多门、迫击炮、小炮1．5万多门，以及战车、装甲车、汽车、大批通讯器材和大量的各种弹药等。会议议论纷纷，各方战将无不充满了悲观和疑虑。
以至于蒋介石于次日再次登台讲话，要止住失败的气氛。他说：“我自黄埔建军20多年以来，经过许多艰难险阻，总是抱着大无畏的精神和百折不回的决心，坚持奋斗，终能化险为夷，度过种种难关。自对共匪作战两年来，军事上遭受了挫折，这是不容讳言的事实。但今天最重要的是我们大家同心同德，共济时艰，抱定‘有敌无我’，‘有我无敌’的决心，激励士气，来挽救危机，争取胜利，而不是要互相埋怨，互相倾轧。尤其我们这些高级负责人，更应坚定信心，处在危疑震撼之际，更宜力持镇静，绝不可有丝毫悲观失败的情绪和论调，以致影响士气，影响全面。……现在我们在军事上，海军、空军占绝对优势，陆军还有几百万人，在经济上，有9亿美元的基金，长江流域及以南地区物产丰富，粮食绝无问题；国民政府仍然统治着广大地区，有众多的人力可以征调，就总的力量对比来说，我们要比**大过许多倍，没有任何悲观失败的理由。‘破山中之贼易，去心中之贼难’，现在最要紧的就是要打破大家害怕共匪的心理。”
而在会议的最后一天，顾祝同提出一个战略：“为巩固长江以南地区，防止共军渡江起见，应暂时停止战略性的进攻，将现在长江以北、黄河以南地区的部队，编组成为几个较强大的机动兵团，将原有的小兵团概行归并。这几个兵团应位置于徐蚌地区，信阳地区、襄樊地区，其主要任务是防止共军渡江，并相机打击共军，在长江以南地区速编练第二线兵团。”
诚如蒋介石会后对杜聿明所说的“徐蚌为首都门户，关系甚大，我们有强大的兵力在这个地区，共军是不敢转举渡江的。”神州逐鹿的最后定鼎便会聚于中原大地的徐蚌、淮海之间。