徐向前是山西五台县永安村人，与阎锡山的故乡—河边村隔河而望。更可以算是阎锡山的学生。1911年10月29日，在日本留过学的阎锡响应武昌起义，掌握了山西的军政大权，并于1919年创办了山西省立国民师范学校。徐向前经过考试，成为这个学校招收的第一批学生。学习期间，正值“五四”运动，徐向前参加了国民师范的学生游行。但思想保守的阎锡山却以残酷的手段镇压学生运动。令徐向前不禁对阎锡山的做法产生了疑问。为了自己的理想和追求，徐向前离开了山西老家，考入黄埔军校，迅速成为一名独当一方的大将之才。
在他的指挥下，蒋介石派来“围剿”红军的王牌主力军，一个个被打得落花流水。而此时的阎锡山却在与蒋介石的军阀混战中连连败北，不得不悄然下野。在此期间，他从各种渠道得知了永安村徐懋淮的儿子徐向前声威大震的消息，不由地对这个同乡后生产生一丝敬佩之意，对他的同乡将领们说道：“我倒想亲眼见见这位徐向前，和他攀谈攀谈。”
而曾经在黄埔军校以徐向前“不堪重用”论之的蒋介石这个时候也不得不对自己的学生另眼相看，想出了种种笼络的手段。一天，两名军官模样的人来到徐向前家，态度非常谦恭客气，进门就对徐老秀才说：“我们是南京蒋校长派来的，蒋校长要我们问问老先生知道不知道徐向前的下落。蒋校长很关心徐向前，蒋校长还要我们问一问老先生家里有没有什么困难？”徐向前的老父亲回答说：“自从象谦考上黄埔军校，就不知道哪里去啦？连点音讯也没有，我正要找你们蒋校长要人呢！”
机会总是有的，1937年徐向前和阎锡山第一次见面，而且就在故乡山西。当时国民党五届三中全会确定联共抗日，工农红军正式改编为国民革命军第八路军，徐向前被任命为八路军第一二九师副师长，而阎锡山也在山西重整旗鼓，恢复了其“山西王”的地位。由于徐向前与阎锡山的“特殊”关系，周恩来特地邀请他，参加了中国**同阎锡山的谈判活动。
1937年7月，当他们到达太原时，阎锡山正在部署大同会战，所以周恩来、徐向前与阎锡山的真正首次会面是在山西岭口。阎锡山半开玩笑地对周恩来说：“周公来山西也真会选人才呀，把我们五台同乡、又是我的学生徐向前带来与我会见谈判了？……你这次来山西，没有别的用意吧，可不要带徐向前来挖我的墙角啊。”说罢，又向徐向前笑了笑。周恩来说：“百川先生把话说到哪里去了。我这次和向前一块来，是因为他是山西人，要他给我带路的。同时，向前又是百川先生二战区八路军第一二九师副师长，以后是你的部属了，特来拜会你的。还要请先生多多关照哩！”
但是阎锡山与徐向前的共事并没有维持多久，1938年4月，徐向前便统帅率第一二九师和第一一五师各一部进入河北省南部，创建冀南抗日根据地去了。1939年6月徐向前又前往山东，担任八路军第一纵队司令员。而此时的阎锡山已经被日军赶出山西，在陕西的克难坡徘徊于联共抗日与联日求存之间。曾经的师生、同乡再度由于政见不同而分道扬镳。
1942年徐向前出任陕甘宁晋绥联防军副司令员，后由于身体原因出任抗日军政大学的代理校长。这位百战名将似乎距离战场越来越远。毕竟在那场惨烈的祁连之役中，这位红军时代便独挡一面的帅才，无论是身体还是精神都遭遇到前所未有的重创。他患结核性胸膜炎已三年多。这时，虽有所好转，但身体仍很虚弱。就在日本投降前夕，他还卧病在延安和平医院之中。
但1946年6月，以**进攻中原解放区为起点，爆发的全面内战。却促使正在延安养病的徐向前不顾还未完全康复的身体，主动向党中央请求去太行前线。“共军从山西倾巢南下，留给徐向前的不过数万地方部队，但是此人却仅以半年的时间整训出了一支铁军，其治军之能**之中无出其右者。”谈到山西战场这半年多形势的急转直下，李延年也不得不佩服自己的那位黄埔同学。
据说在送刘伯承出征时，两位沙场老将依依不舍。他们谈到战局的发展，徐向前说：“你们出中原以后，内线我军的压力会减轻。”刘伯承说：“你的负担可不轻啊!留下的部队太少了。”徐向前淡淡一笑，说：“有这几万人，最后解放山西，我看也差不多。只是主力少了点。”刘伯承则说：“全靠你扩编和训练了。”这简单的对话中，含有深厚的意境。此时，留给徐向前指挥的正规部队不到两万人。也许是他习惯于从小到大发展革命军队。一生都不会忘记：广州起义自己指挥的工人赤卫队只有两支手枪，几个手榴弹；初到大别山，自己指挥的队伍不过千把人，而后发展成为拥有三个正规军的红四方面军；初到四川，红军从两万人，一年多的光景就发展到近八万人。“兵在精，不在多。”
当时在山西的解放军主力部队已经少的可怜，即便补之以地方武装，也勉强不过凑成6个团，组建了第八纵队，算是军区的主力，另外把全区的地方武装和游击队编组成一些独立旅团，总兵力也不过5万人。而当时阎锡山的晋绥军虽然屡遭重创，但依旧占据着晋中的富饶之地，即同蒲路中段北起忻县、南至灵石及本段内汾河两岸略呈柳叶形的地区，以及晋南的运城、临汾和晋北的大同这三座中心城市，凭借这些地区的坚固工事，以及十多数精锐的野战部队，这场三晋大地之上的角逐似乎并没有什么悬念。
但徐向前上任伊始，协同王震所部便拿下了晋西南**最后的一个据点—运城，令三晋形势陡然一变。当然此时运城已被围困多时，虽然火力配备依旧严密，工事也较前加强，不仅全部修复了在前两次攻坚战中被解放军摧毁的工事，又在城东增修不少碉堡，但是守军的士气低落。徐向前的第八纵队又有王震所部配合，兵力上占据优势。因此并没有引起阎锡山的警觉。他自认晋中地区工事坚固，徐向前所部可以拿下运城，却未必可以啃得动自己的精心构筑的晋中防线。况且徐向前上控制了陇海路与潼关要冲，扼住了临汾胡宗南所部退陕增防西安的通路，更能强化临汾的防御。
临汾——这座晋南最大的城市，相传是唐尧建都的地方，历来是军事重镇。自从纵贯山西全省、沟通华北与西北交通的同蒲路建成以后，这里是南段的枢纽，地位益形重要。临汾城筑在汾河东岸一片冲积而成的黄土高地上，城外地势比城内低，黄土垒砌的城墙，黏结得非常坚固，基部最厚处有30余米，墙面如牛背，倾斜向上，高达14米，顶上有10米宽，可并行3辆大车；城周长近10公里；城外的东南部又加修了一座护卫城，高厚度略次于主城，周长3公里多。整座城，西傍汾河，南、东、北三面均为开阔地。从远处看，宛似伏在汾河边上的一头黄牛。所以，临汾又称“卧牛城”。
当地人吹嘘说，临汾城在历史上没有被攻破过，连扫荡山西的闯王李自成到这里也被射瞎一只眼，终究没有降伏得了这头“卧牛”，气得把盔甲挂在城外一棵树上撤兵而去。于是后人把那挂盔甲的村庄，称为“挂甲屯”。日军侵占临汾期间，在这里修筑了坚固的工事。日军投降后，进占临汾的阎锡山、胡宗南部对临汾城内外的防御工事又进行了增修和加固，筑起四道防线，构成了完整的防御体系。
而解放军收复运城，临汾已成为晋南的唯一的孤立据点。阎锡山自上党战役惨败后，为保住晋南，更加积极经营临汾防卫，不断加修工事。集中在临汾的兵力，除胡宗南所部的第三十旅和晋绥军的第六十六师两支正规军队外，还有逃到临汾的4个伪专员公署和14个流亡伪县政府所属的各种杂牌武装还乡团、保警队等，整编成的8个团，总兵力近2.5万人，统归阎锡山的第六集团军副总司令兼晋南地方武装总指挥梁培璜指挥。
梁培璜到任之时不仅以临汾为中心在纵深内外筑起四道防线，构成完整的防御体系：一道防线为外围阵地，由约二十里的无数据点组成，各据点都有高碉、明暗火力点及外壕、劈坡、鹿寨、电网、雷区等障碍物，形成独立的支撑点。第二道防线为环城阵地，以环城碉堡构成，每组碉堡的四围配有地堡和暗火力点，并挖有十米的外壕，设有铁丝网、鹿寨、雷区的防御物，这些明碉暗堡均能独立作战，且相互之间、与城之间又构成严密的立体交叉火力网，东城壕外还铺设铁轨，设置装甲车、火车头做为活动据点，往来巡回接应。第三道防线为城池阵地，包括外壕和城墙，深挖二十米、宽三十米的外壕内外沿均设火力点，壕底有伏击地堡，距城二十米，城墙高十五米，筑有三层作战工事，配备各种密集交叉火力，外壕火力与城墙三层火力构成立体火力网。第四道防线为城内纵深阵地和地道工事，城墙内挖内壕，深宽均有五六米，壕内每隔十五米即有一伏地堡，与城内核/心工事、炮兵阵地和城上火力点形成纵深阵地。外壕、城墙与内壕形成了宽五十余米、高三十五米的巨大屏障。此外，临汾还有特别之处，它不像别的城市东西南北四处有关可攻，仅在城东偏南部筑有东关，其城墙高度、厚度及周边工事也异常坚固，它的这一特点又加大了解放军攻坚作战的难度。综观临汾，实属集天然与人工为一体的坚城要塞，城垣异常坚固，地势易守难攻，守军可谓得天独厚，梁培璜得意的称其为中国的“马其诺”防线。
而为了控制下属，梁培璜更推行所谓“肃清伪装”，宣布撤离阵地是“伪”、不愿当兵是“伪”、妇女不愿慰劳、不愿与军人结婚是“伪”，并指派专以杀人为务的督战队，施行镇压，企图以此维持残局。宣布了“八杀”的命令：奉令进攻迟延不进者——杀；奉令赴援迟延不进者——杀；未奉令放弃守城者——杀；邻阵被攻有力不援者——杀；邻阵被陷不坚持本阵地者——杀；主官伤亡次级不挺身而代行职务者——杀；滥行射击虚报弹药，阵前无敌尸者——杀；谎报军情企图卸责者——杀。
徐向前面对梁培璜的“八杀”命令，淡淡一笑，对参谋人员说：“临汾是个‘硬核桃’，决心不大，牙齿不硬，就甭想咬碎它。”他将自己的指挥位置，随即前移20华里，进驻临汾近郊的东堡头村。与此同时解放军集中了八纵队、十三纵队和太岳军区部队、吕梁军区地方部队近十万人也近抵临汾外围。
而在主攻方向之上，根据临汾城西边是汾河，不好用兵；南面和北面是平原，无掩护物；东面是同蒲铁路，有临汾车站和站内的几十节破车皮可作为掩护，解放军可以有效的运动兵力，最后决定先攻东关。从1948年3月7日拂晓开始，解放军各攻坚部队开始向东关外围据点发起进攻，尧庙飞机场、临汾车站和电灯公司成为两军反复争夺的战略要点。激战约10天左右，城外碉堡均被解放军摧毁，而东城的突出部分亦被炮轰得到处倒塌。解放军约一个连曾一度登上城墙，晋绥军第六十六师师长徐其昌甚至亲率麾下第一九六团的“奋勇队”，以白刃和硫磺手榴弹与解放军搏杀，双方伤亡均重，最后解放军自动撤退。
之后，解放军的攻击重点转移至电灯公司，电灯公司的争夺战，要算临汾战役中最激烈的战斗。电灯公司原由保安第二十九团单独据守，但激战两昼夜，保安二十九团团长、营长便全数阵亡，官兵所剩无几，晋绥军第六十六师第一九八团增援上去的一个营也伤亡大半。徐其昌不得不派出第一九八团全部和补训二团一个营齐往增援，并亲率师直属小部队在阵地督战。但是最终也不过多支撑24小时而已。
电灯公司失守后，解放军攻城部队推进至城周的外壕前沿，并构筑坚强工事，地道也都通过了外壕。守城晋绥军在外境内沿所构筑的火点和外壕内的侧防设备，大部被解放军摧毁。此时双方为了争夺外壕，不得不展开了壕前的坑道战和壕内的肉搏战，剧烈程度空前。
坑道作业，本就是两军斗智斗力的战法。4月1日，解放军八纵第二十三旅移至距离东关城墙只有几百米的挂甲庄，接下了主攻任务。当时，庄上仅有的几户人家都因战争躲避走了，只剩下两个群众，其中一人就是23旅政委肖新春的房东。他对肖新春讲了李自成打不下临汾、气得挂甲而去的传说。肖新春激动地说：“我们是人民子弟兵，不能像李自成那样打不下就走，他可以走，我们可不能走！打不下临汾，就对不起人民！”
第二十三旅曾在山西曲沃、运城战斗中成功地运用坑道爆破战术，徐向前将其投入战斗的目的正是发挥他们的攻坚经验。几天后，第二十三旅曾便在东关城外开了4个坑道口，开始向东关城墙掘进。同时，地面上展开了激烈的外壕争夺战。旅长黄定基一边命令部队集中炮火摧毁和封锁了攻击正面的晋绥军的火力点，步兵在炮火掩护下，以4条掩盖交通壕迅速推进，将外壕外沿的守军全部驱散，使城墙完全暴露在我军的攻势之下。而晋绥军方面一面以火力阻止解放军地面的进攻，一面抢修地堡深沟，企图阻滞解放军的坑道前进。
但最终第二十三旅顽强地将掩盖交通壕推进到外壕边，开暗道，挖射击壕，还利用夜幕掩护，派小分队杀入外壕，肃清了壕内守军。一夜之间，控制了外壕上、中、下各个层面。而城上的晋绥军则不断向外壕内滚地雷、投炸药包，甚至向外壕注水，两军争夺几近白热化阶段。
与此同时，在地底顽强掘进的解放军坑道工兵，已经使爆破坑道顺利通过外壕，挖到东关城墙下。到4月9日，4条坑道都已掘进到东关城下，连放炸药的地方也挖好了。当夜，240人组成了两个运火药队，从十几里外将8700多公斤炸药陆续运进了坑道。到10日午时，除一条坑道作为备用外，其他3条都已装好炸药。对东关的最后攻势全部准备就绪。
10日黄昏时分，随着天空中两颗绿色的信号弹的升起，东关城墙被炸天57米和25米两个大缺口，爆破成功之后，解放军“尖刀连”的步兵迅速冲向城头，不顾晋绥军机枪的扫射，占领了突破口。大部队随后源源不断地杀入东关城内，将残敌全部击溃。
徐向前总结打东关的经验，决定继续以坑道爆破为主的战法，打下临汾本城。为分散敌兵力，他于15日调整部署：以十三纵由城南门以东地区，八纵由城东南以东地区，太岳部队由城东北地区，同时攻击前进，掩护破城坑道作业。而梁培璜退守临汾本城之后，也发现除每晚至次日拂晓有激战外，白天阵地上颇显沉寂。据炮兵的观察报告：解放军每日下午调动频繁，且杂有很多民夫。根据东关战斗经验，判断解放军是在挖掘地道，梁培璜责成专员王正平向市民要了很多大瓷，挖掘大量丁字形反坑道，埋在外壕的外沿底下，构筑听音室。派人轮流看守，发现对方的坑道位置时，即以坑道对坑道。临近时炸毁对方坑道。在地面，则以各种手段侦察解放军坑道口的位置，窥得迹象则以飞机、炮火猛烈轰击，还派敢死队袭扰坑道。为加强坑道掘进的保密，解放军挖土改用三股齿、小铁铲，脚缠破布棉絮走路。因为晋绥军的反坑道又密又多，攻城部队主坑道得不断拐弯，每前进一步都要付出很大的代价。
但这样的战术只能延缓解放军掘进的战术，解放军掘进日急，守军一夕数惊，坐卧不宁。梁培璜向各方求援的电报，真是急如星火，昼夜不停。后来接到阎锡山和胡宗南的复电，均允许马上派兵增援，但一礼拜过去了，援兵仍渺无踪影，同时弹药也发生了恐慌。正在岌发可危的时候，忽接阎锡山的手启电说：“胡（宗南）部已空运抵并，日内即协同高（倬之）、沈（瑞）两军南下，临汾之围指日可解。”但只隔了一天，于5月17日午后2时许，又接阎锡山的电报说；“晋中局势已变，南下部队暂缓赴临，短期内仍须苦力支撑。”接到这个电报，梁培璜着绝对保守秘密，但两小时以后，几乎全部都知道了。
这时解放军的攻城炮火，正在激烈地向城内射击，炮弹越打越紧，很多人已预感不妙，都做好了逃跑的准备。晚10时许，轰隆两声巨响，晋绥军第一九七团的阵地上被炸开了两个各约30多公尺长的缺口，解放军一拥入城，第一九七团和师部失去联系。此时胡宗南所部的第三十旅的第九十团本是总指挥部的预备队，梁培璜经电话上多次催促，始终不见部队到来，经派人连络才发现该团已掩护后勤人员出南门向西南逃去，已奔逃20里。梁培璜又调第一九六团和补训二团进城巷战，却发现该两团也早已逃窜。夜晚1时左右，梁培横不得不下令由西门突围，但过汾河不远即被俘。
18日傍晚。被俘的梁培璜被带在徐向前面前。他夜里逃出城跑掉了鞋，狼狈不堪地光着脚板。徐向前先令人拿双鞋给梁培璜穿上。问他：“你是保定军校几期的？”“第三期。”、“打了几十年仗，难道没有记住‘无必救之军者，则无必救之城’这条城防基本法则吗？、”“知道。……”、“明摆着临汾是座孤城，阎锡山远水救不了近火，胡宗南自顾不暇，蒋介石更帮不上手，你为什么还要在这里死守？”梁培璜惟有无可奈何地叹气。凭心而论，梁培璜守临汾也算尽心尽责，古之名将也不过于此。但是无奈外援不济，最终也难逃城破被俘的命运。