从“七七芦沟桥事变”到太原沦陷，短短几个月的时间，阎锡山的十几万晋绥军主力，已经丧失了70%，手中仅剩下两三万人；山西半壁河山，陷入敌手，一些未沦陷的地区，政权也已处于瘫痪状态。又一路向南溃退的阎锡山此刻并没有绝望。一方面是因为以临汾为中心的晋南还在阎锡山的掌控之中，而另一方面在抗战爆发以来，阎锡山颇为信任的青年才俊—薄一波一直都没有令他失望。
薄一波于1937年8月所组建了第一支山西青年抗敌决死队虽然没有参与晋北和太原的战役，但是发展迅猛。平型关鏖战之时，薄一波所统率的“青年抗敌决死总队”已经发展到一个团兵力，准备在五台山地区建立抗日根据地。但是在太和岭口—阎锡山前线指挥所驻地。薄一波却向阎锡山提出：“上党地区是军事重地，我要求率部队到那里去，建立一个抗战的立脚点。”
上党地区位于今天山西省的东南部，主要为长治、晋城两市.它是由群山包围起来的一块高地。其东部、东南部是太行山脉，与今河北、河南二省分界；西南部为王屋、中条二山，与今河南省分界；西面是太岳山脉；北面为五云山、八赋岭等山地。上党地区地高势险，因此自古为战略要地，狄子奇的《国策地名考》上说“地极高，与天为党，故曰上党”。战国时代有名的长平之役便是由于缘于秦赵两国争夺上党。
当时的阎锡山刚刚以天镇、阳高战役擅自撤退的名义枪毙了晋绥军第六十一军军长李服膺。李服膺跟随阎锡山多年，阎锡山为了平息山西民怨而杀他，多少有些“挥泪斩马谡”的意味，同时也反应出当时阎锡山对晋绥军将领们的失望。因此当薄一波提出率部到上党去发展的提议，立即得到了阎锡山的同意。阎锡山更认为薄一波一介书生能有此等眼光而大喜过望，立即任命薄为山西第三行政区政治主任（后改为山西第三区专员公署专员）。
阎锡山并不知道薄一波的背后早有朱德和**两位战略家的指导。“青年抗敌决死总队”挺进上党揭开了中国**人建立太行、太岳抗日根据地的开始。而自太原失守后，国民政府在华北的抵抗基本结束，其政府官员也基本跑光了。旧政权虽已被日军摧毁，但在广大农村和大多数的小城镇，日伪政权还没有建立起来。因此华北大地之上出现了一段短暂的政权真空。**中央敏锐地抓住了这个宝贵的时机，**强调：“整个华北工作应以游击战争为唯一方向。”**建议：把八路军在三个月内扩大到十万。那时，在华北广大地区，到处是要求一心想将日寇赶出家园的民众，到处是溃兵扔下的枪支，人与枪结合起来，加上**的领导，立刻就变成了抗击日寇的武装力量。
而薄一波抓住这一契机，正式向阎锡山建议，组建5至10个旅的新军。阎锡山听了非常赞同，马上批准先组建5个旅，并以第二战区司令长官的名义发布命令，由薄一波全权负责，从速组建。而从新军组建开始一直到临汾失守之前，阎锡山对新军的态度是支持的，因为此时他一直依靠的山西旧军**的一面已经充分暴露，部队在日本人的进攻面前一败涂地，地方政权全部瓦解，即便尚未沦陷的地区竟然无人敢出来执政，连县长也无人敢当。“十月山西人人忙，富人搬家忙，穷人心惶惶，军官扔部属，小兵扔大枪”，就是这种现实的真实写照。
面对这种状况，阎锡山深感要想求得“存在”，依靠旧军、旧政权已经不可能，而牺盟会和新军敢于深入敌后发动群众，开展游击战争，坚持抗战，建立抗日民主政权，这就成为他当时能够依靠的唯一的力量。阎锡山对牺盟会和新军的发展和活动，很少加以限制；对**人提出的绝大部分建议和意见，也都能够采纳和实施。而且在公开场合或者小圈子内部，阎锡山都表示了对新军支持和赞扬肯定：“‘决死队’是革命的，抗战是最坚决的”，“薄一波不是军人，但他们练下的军队能与敌人打，这就是因为他们的办法是革命的、进步的”。牺盟会和决死队是“革命青年”，一切办法自然都是革命的。
在阎锡山的支持之下“青年抗敌决死总队”由原来的四个总队（相当于四个团）发展成四个纵队（相当于十二个团），并成立了政卫队。原来只有几百人的工卫队，也发展成相当于三个团的工人武装纵队。此外，还成立了许多独立的抗日游击支队，各县又组织了人民武装自卫队。通过阎锡山，牺盟会还推荐和委任了不少县长和县武装自卫队长。
1938年1月，晋察冀边区成立人民政府，经各界民主选举产生了“临时行政委员会”，但还要得到国民党政府批准才“合法”。一天，薄一波从敌后到阎锡山的驻地办事，梁化之告诉他：**在晋东北成立一个“晋察冀边区临时政府”，来过七次电报，并派胡仁奎来活动，请求批准。阎锡山回答说：“我只管一个晋，怎么能批冀，还有察呢？”
薄一波立即找到阎锡山，说：“听说晋察冀边区要申请成立临时行政委员会，这是件大好事，应该马上批。正如你所说，现在兵荒马乱，正是八仙过海、各显神通的时候。这个委员会中，有七个委员是我带到五台山地区准备在那里建立敌后抗日根据地的人，他们都是我们的人。你批准了，我们的势力就可以扩充到河北、察哈尔。因此，批准是上策，不批准是失策。”阎锡山听后觉得有道理，马上就批准了，并电告国民党中央政府行政院备了案。中国**对这一段时期在山西发动群众，组建抗日武装的薄一波有过一个形象的比喻，说他是“戴着阎锡山的帽子，说着**”的话，可谓形象。
但是从1938年初开始，日军华北方面军为使华北、华中连起来，以图占领徐州、威胁武汉，即开始了向黄河北岸中**队的进攻作战。2月初，日军从北面、东面分两路向晋南大举进攻，欲打通同蒲线，夺取风陵渡，聚歼中**队于黄河北岸。为实现这一进击意图，侵华日军第一军司令官香月清司集中第二十、第一○九师团，第一○八、第十四师团各一部向山西省南部及西部进犯，采取兵分两路、分进合击、迂回包围的战法。其中，一路由太原沿同蒲路南下，一路由平汉路沿邯（郸）长（治）路西进，由此造成晋南重镇临汾陷于被围危险之中。而当时阎锡山的第二战区长官部、卫立煌的第十四集团军总部、山西省绥靖公署、**中央北方局以及八路军驻晋办事处等军政机关都驻在临汾，战场态势可谓极为不利。
日军的大举进犯，使国民政府不得不放弃已经酝酿多时的反攻太原作战计划，而组织东线防御，以抵御东线日军向西进犯，稳定晋东南局势。但是除了八路军在灵石、孝义以西地区、午城、井沟一线打了几场漂亮的伏击战之外，**各部皆接战失利，纷纷从临汾转移到吕梁山的隰县、大宁、吉县等地。当时，阎锡山数次向国民党中央政府请求，蒋介石才允许第二战区指挥部过黄河移至宜川县秋林地区，但不准其部队到黄河以西，只能在山西坚守作战。阎锡山此时也提出了“守土抗战”的口号。在毫无退路的情况下，阎锡山命令他的第十九军组织了川口战役。王靖国将两个师部署于隰县东北的川口和大麦一线，想阻击日军前进，但又以失败告终。
临汾沦陷，日军打通了同蒲路占领了风陵渡。从事实上已经扫荡了阎锡山在山西所有的地盘。阎锡山经蒲县、大宁、乡宁、吉县，退到陕西宜川县桑柏村之后，似乎回过味来了。这时，八路军和牺盟会、决死队等抗日进步力量，却在敌人后方，在山西广大农村和山区，积极发动群众，建立敌后政权，开辟抗日游击根据地，使抗日救亡的烈火熊熊燃烧起来。阎锡山看到这种局面之后，进一步感到抗战不到一年，崩溃了的是他的军事力量，瓦解了的是他的旧政权，而强大起来的却是**、八路军和牺盟会、决死队等革命力量。这种为他人作嫁衣的感觉，使阎锡山惴惴不安。
1938年12月汪精卫叛国投敌；1939年国民党五中全会蒋介石发表“抗战到底”就是“恢复卢沟桥事变以前状态”的谈话；会后连续颁发了《共党问题处置办法》、《防止异党活动办法》、《沦陷区防止共党活动办法》，实行“防共”、“溶共”的**政策。在这种形势下，阎锡山的政治态度显著起了变化，走向阴谋**、对敌妥协的道路。1939年3月在陕西省宜川县秋林镇召开的“军政民高级干部会议”。
会议中，阎锡山鼓吹妥协论。他一再说，抗战削弱了“二战区”，壮大了**八路军，“要自谋生存之道”。认为中国抗战前途将是：“中日不议而和，国共不宣而战。”、“抗战与和平是个政治问题。不能说主张抗战就对，主张和平就不对”；“不能说汪精卫是汉奸”；“蒋(介石)先生脑筋中决无抗战之意，今天是如何妥协的问题了”。讲到统一战线，阎说：“今天光讲抗战不讲复兴是不对的。共抗战是朋友，共复兴是同志。今天要团结同志，打击朋友。我不能背上棺材抗战。”阎锡山鼓吹对日妥协投降的言论，遭到以薄一波为首的牺盟会和新军代表的抵制和反对。牺盟会方面要求阎向全国发出声讨汪精卫的电文，遭到他的拒绝，他说：他“从来没有用个人的名义去反对另一个人”。
到了5月底，牺盟会、决死队的主要领导干部都陆续回去了，但阎锡山为了让牺盟会、决死队群龙无首，执意把薄一波留下，不准回去。当时薄一波已经看出，阎锡山要“摊牌”了。为了摆脱羁绊，及早返回部队，薄一波找到阎锡山，直截了当地说：“梁化之说得对，决死一纵队完全是**掌握的，即使取消了政治委员，也不可能回到山西军序列。不过我回去，还可以做点工作。你看怎么样?”阎锡山犹豫好久，说：“也对。”这才同意放行。可薄一波一走便是金鳞脱得金钩去。抗日决死队再也没有回到他阎某人的掌握之中。
阎锡山原以为，经过这么长时间的部署，只要一声令下，便可大功告成，遂于1939年12月初，命令陈长捷指挥第六十一军、第十九军等部，围攻驻守在晋西南的决死队第二纵队和八路军晋西独立支队，接着命令山西的晋绥军向新军发动全面进攻。然而精明的阎锡山却又一次打错了算盘。晋绥军的进攻遭到新军坚决的反击，八路军也大力协助。经过半个月的激烈战斗，彻底粉碎了晋绥军的进攻。新军除决死三纵队损失一部分外，其余33个团全部离开了阎锡山，分别在晋绥根据地和晋冀鲁豫根据地与八路军会师。“十二月事变”后，在八路军总部指导下，经过整军，决死一、三纵队正式编入八路军第一二九师战斗序列，决死二、四纵队则纳入第一二○师战斗序列。
对于这个结局，阎锡山深记在心。后来他曾经对人提起：“我一生办事，都能按我的设想打算去做，并且多有成果。但是在成立新军这件事上，吃了一伙年轻人的亏。这是我事先没有想到的。”但是对于薄一波的才干阎锡山还是欣赏的。曾慨叹：“我山西是个出人才的地方，文有薄一波，武有徐向前，如果这两个人都为我所用，我就可以统治全中国，可惜他们都跑到**那里去了。”而阎锡山更没有想到的是他正是在薄一波和徐向前的手中丢失了整个山西。
就在阎锡山发动“十二月事变”的同时，侵华日军由于在中国抗战军民的打击之下，速战速决灭亡中国的迷梦早已破灭，困难日益加深，已经陷入持久战的汪洋大海之中。于是，开始制造所谓的“和平”，企图采用诱降的手段灭亡中国。阎锡山一贯亲日**，本来就是侵华日军诱降的对象。早在太原沦陷不久，伪省长苏体仁就秉承日军的意旨，授意伪省公署秘书曲宪纯（阎锡山的表侄）找阎宜亭（阎锡山的族侄，太原西羊市晋恒木厂商人），到晋西向阎锡山面交苏体仁的信件，告知日军愿和阎锡山“亲善合作”，不再以兵戎相见。阎锡山当即复信，表示愿意与日军“合作防共”。十二月事变后，阎锡山既然决心**，更是日军拉拢他投降的大好时机。
此后双方更是多次秘密接触，1941年3月，阎锡山再次派赵承绶到白壁关与日军驻汾阳若松旅团的宫内参谋会谈。口头商定了所谓《汾阳协定》，日方答应先给阎锡山50个团的装备，拨发步枪五万枝，机枪五千挺，以便消灭**。只要阎锡山通电脱离重庆国民政府，发表“独立宣言”。便先进驻孝义，待日方将晋中府十县政权交阎方接管后，再进驻太原；接管雁门以南政权，扩充力量后，再进驻北京；届时日方将华北政权交阎锡山接管，组织“华北国”。条件不可谓不优厚。
此后双方物资频繁交换，关系越加密切。阎锡山则积极准备回太原。这时，晋系与日方勾结已成为公开的秘密。蒋介石为了维持抗战的局面，不得不派军令部长徐永昌、铨叙部长贾景德到晋西，劝阻阎锡山，并答应解决山西的困难。八路军驻山西办事处的王世英也会见了阎锡山，抓住阎投降的危机问题，对时局作了详细、透彻的分析，使阎不得不在联日的同时，静观时局的变化，等待美、日和谈的结局，看一看日本将要南下太平洋还是北攻苏联。1942年12月18日，日军偷袭珍珠港成功。接着，太平洋战争爆发。阎锡山大吃一惊，只好改变态度，由积极投降改变为等待观望，对《汾阳协定》的履行，也暂时停止下来。
1942年4月，日军见策动阎锡山的工作始终没有达到预期的目的，便再次邀请阎锡山亲自到太原谈判。随后，又经过一个多月的往返磋商，最后阎锡山同意亲自在吉县安平村与日军举行会议，会议决定在5月6日举行。安平村有107户人家，是山区的一个大村庄，在吉县城南是晋绥军前哨阵地。村南隔一条沟，便是日军防地，双方隔沟相峙。
因为会议气氛十分紧张，谈了一个上午，双方不得不“暂时休会”，共进午餐。阎锡山举行宴会，招待日本山西派遣军司令官岩松等人。饭后各自回到休息室休息。这时，杨贞吉得到报告，发现在日本人来的路上，有许多骡马向安平村前进。杨立即报告了阎锡山。阎锡山听后，认为这是日本人在会议上没有达到目的，要用武力相威胁，便搓手摇头，十分惊惶，决定逃走。
据说那一队骡马驮着的是4000万法币，法币是当时蒋介石政府发行的货币，跟汪精卫发行的伪币和日军发行的军票比，绝对是硬通货。手里有了法币，就可以保证军需物资的采购和后勤供应。在村口待命的马队接到暗示，要把钱送到谈判窑洞里。负责送钱的日军军官一定是兴奋过度，当即大声对下属发出军令指示∶法币，前进！在窑洞里的阎锡山冷不丁听到这个声音，大惊失色，二话不说，甩手起身夺门而逃……。因为在日语里“法币”的读音和“炮兵”完全相同。阎锡山在日本军校学习过，对这句话是再熟悉不过了。当然这不过是安平会议的一个笑谈，不可当真。
1938年10月—1941年12月的中日相持阶段之中，日本的确在中国战场之上占尽优势，但是鉴于绵延上千公里的战线与所剩无几的战略资源和后方的不安定因素，日本政府知道它没有能力管理所有占领了的中国国土。日本的作战方针一改再改，由最早的“三月亡华”，转变为1938年11月第二次近卫声明的“东亚新秩序应由中日共同主导”、“共同防共”、“经济提携”等，并声称只要答应和解，就从华中、华南撤军，华北在名义上属于中国。
而在占领区内日本仅用少量的资源即能引诱中国民众加入皇协军的队伍，制造了大量的伪军，在经济上也诱惑资本受损的中国资产阶级，向他们开放日军占领区的实业投资。面对这些因素，中国国民政府内部也开始不断出现“中日和解”的声音。同年底，第三次近卫声明发表，除了更为温和的语气外，将建立“大东亚新秩序”的部分义务分担给中国，透过德国驻华大使陶德曼的调停，藉以从侧面诱导国民政府和谈，并承诺和谈成功后废除在华不平等条约，归还租界。
受此影响，主张与日本媾和的国民党副总裁汪精卫到达越南。他在1938年12月29日发表“艳电”响应近卫声明，提出与日本“恢复和平”。作为当时中国的第二号人物，汪精卫在战争最为紧张之时的这番言论，被视作公开的叛国投降，中国抗战的士气受到巨大打击。1939年1月1日，中国国民党召开临时紧急会议，永远开除汪精卫党籍并撤销其一切职务。之后发生“河内刺汪案”，蒋介石派出特务企图暗杀而不果。3月，汪精卫在军统策划的刺杀事件中生还，这使得他彻底投向日本，并于5月在上海与日方开展秘密谈判，年底秘密签订《日华新关系调整要纲》。1940年，汪精卫在日本的保护下来到南京，以“还都”的名义于3月30日成立“中华民国国民政府”。
在这样的大氛围之下，精于算计又与汪精卫颇有渊源的阎锡山完全不对和谈动心是不可能的，从“联共抗日”到“联日抗共”的转变其实并不困难。毕竟“卧床之侧，岂容他人酣睡”，八路军自1937年开进山西以来，便于当年秋冬先后创建了“晋察冀”、“晋冀鲁豫”、“晋绥”三大抗日根据地。面对这样的局面，一直视山西为自己禁脔的阎锡山又怎么可能不急在心头呢？
诚如其对心腹部下所说的：“目前咱们的处境很不好，蒋介石要借抗战的名消灭咱们，不发给咱们足够的经费，也不给补充人员和武器，处处歧视咱们，事事和咱们为难。**对咱们更不好，到处打击咱们，八路军在山西各地有严密组织，把老百姓都拢过去了。如果日本人再打咱们，那就只有被消灭。咱自己的人也不稳定，宜生（指傅作义）已离开咱们，陈长捷也在动摇。青年干部左倾的都跑到延安去了，右倾的跑到蒋先生那里做官赚钱去了，胡宗南在西安就专门拉咱的干部。咱们如果想在中国求存在，非另找出路不可。存在就是真理，只要能存在住，以后怎么转变都可以。如果存在不住，还能谈到其他事业吗？抗战固然是好事，但又没有胜利把握，就是打胜了，没有咱们也不行。权衡情况，目前只有暂借日本人的力量，才能发展咱们自己，这是一个不得已的办法，也是咱们唯一的出路。”