1937年“七七事变”后，日军进攻势头正盛，在平张地区击溃西北军宋哲元部29军后，于8月14日组成“察哈尔派遣兵团”以东条英机中将为统率，兵锋直指晋绥地区。阎锡山抱病飞抵南京参加国民政府组织的南京军事会议。8月16日，国民政府下达国家总动员令，布置全面对日作战，阎锡山被任命为第二战区司令长官，指挥晋、绥、察三省所有部队，在此区域内的中国军队共编为六、七、十八三个集团军。
杨爱源任第六集团军总司令，孙楚任副司令;辖第三十三军、军长孙楚，副军长周原键。下辖第七十三师、独立第三旅、独立第四旅、独立第八旅、
第三十四军、军长李杨澄源，副军长傅存怀。下辖第七十一师、第一九六旅、第二0三旅。
傅作义任第七集团军总司令，刘汝明任副司令，下辖第十三军军长汤恩伯、第十七军军长高桂滋、第十九军军长王靖国、第六十一军军长李服膺、第三十五军军长傅作义(兼)，以及察哈尔省主席刘汝明的第六十七军。
朱德任十八集团军总司令，彭德怀任副总司令。下辖第一一五师师长林彪、第一二0师师长贺龙、第一二九师师长刘伯承。
8月7日，日军以坂垣征四郎第五师团、玑谷廉介第十师团一部共十个联队3.5万人沿平绥线向南口进攻，傅作义部第三十五军对日军进行了坚决抵抗，连克商都、化德等日军据点。晋绥军陈长捷第七十二师、马延守部独立骑兵第七旅以及李服膺部第六十一军赶来增援。由于原西北军第68军刘汝明部放弃阵地，致使傅部守军阵地全线溃败，27日日军攻陷张家口，山西门户洞开。
张家口失陷后，阎锡山于8月28日于代县太和岭设立行营，部署与日军展开大同会战。参加会战的部队有晋绥军王靖国第十九军、李服膺第六十一军、杨澄源的第三十四军、赵承绥骑兵军两个旅、傅作义第三十五军两个步兵旅、陈长捷第七十二师和马延守骑兵旅，西北军刘茂恩的第十五军，具体布置是：
以李服膺第六十一军七个团守天镇、高阳，坚决阻击日军进攻，以王靖国第十九军九个团位于大同以东聚乐堡一线接应六十一军;杨澄源第三十四军、西北军刘茂恩部十五军集结大同以南浑源、东井集一带随时增援;以赵承绥骑兵军两个旅集结大同以北兴和一线;以傅作义第三十五军共九个团加两个骑兵旅一个山炮团一个野炮营集结东丰镇和北得胜堡地区作为北线兵团。以此三部作为十九军和六十一军的接应部队，协助阻击日军进攻。从南口突围出来的陈长捷第七十二师加上新编独立第四旅编成预备第一军由陈长捷任军长，集结在大同以南应县。孙楚第三十三军孟宪吉独立第八旅、章拯宇独立第三旅集结龙泉关、平型关之间也作为预备队。此两部为整个大同会战的总预备队
这是晋绥军继1926年与国民军展开的大同保卫战后第二次大同保卫战。蒋介石对这次作战兴趣非常高，期望以善守闻名的晋绥军在日军进攻面前能够再次创造大同保卫战的胜利。
李服膺的六十一军把主战场选择在天镇，在天镇摆了六个团，高阳只有一个团，企图在天镇给日军以重大杀伤后，以王靖国十九军以及其他后继部队给予反击。9月1日，日军坂垣第五师团、独立混成第十一旅团、独立混成第一旅团等部以及东条英机察哈尔兵团先头部队总兵力4.5万人，在飞机和坦克的支援下，自张家口西进，过怀安向天镇六十一军阵地发起猛攻。李服膺指挥守军奋起反击，终日激战，连续四天四夜日军未能前进，李服膺部伤亡也十分巨大。日军首攻受挫，稍事休整，于9月6日再次向守军发起强大攻势，又激战四天四天夜，由于日军进兵速度快，大同外围各防御工事没有完成，再加上日军装备精良，攻势十分猛烈，天镇守军六个团几乎损失殆尽。9月11日，日军终于攻陷天镇进逼高阳。高阳守军力量薄弱，经不住日军强大炮火，到9月13日高阳失守。此战晋绥军第六十一军几乎被打光。
天镇高阳失守，牵动全局，日军进逼聚乐堡。日军以猛烈的炮火向聚乐堡十九军阵地轰击。王靖国指挥十九军与日军激战两天，伤亡竟达3000人，终于不敌撤出聚乐堡阵地，大同随即陷落。
天镇、阳高失守使大同会战计划全线失败。为了严明军纪，天镇守将第六十一军军长李服膺被阎锡山以放弃阵地之罪斩杀于太原城。李服膺被处决后，第六十一军军长由陈长捷接任。
晋绥军自1937年8月7日进行张家口保卫战开始，自11月9日撤出太原为止，对日军顽强抵抗了整整三个月，全军十余万人仅存不足两万。在阎锡山的督率下，惨烈的晋北保卫战显示了晋绥军保家卫国的坚强决心和旺盛的作战毅志。晋绥军优良的兵工企业生产的武器装备也为晋绥军抗日作战作出了最大贡献。晋北保卫战成为阎锡山人生中最为辉煌灿烂的一页。
太原失守以后，阎锡山先是退到临汾，后又退到隰县的大麦郊。太原丢失，工业企业丧失殆尽，部队也差不多打光了，部属们在日军凌历的攻势下，都四散逃开，下落不明。各友军尽皆以保存实力为第一要务，逃得无影无踪，山西大好河山眼看就要全部陷入敌手，这个时候阎锡山的心情十分沮丧，思想也开始产生一些变化。对山西和自己的前途都作了重新考虑。
12月初郭宗汾带七十二师赶到大麦郊，阎锡山的心情这才稍有好转。到十二月底，各部情况基本都有了下落，日军的进攻也稍有停顿，阎锡山抓紧时间把残破的部队进行重新整编。又在晋西各县又招募了一批新兵，补充到部队中去。经过这整编后的晋绥军基本序列如下：
第十九军军长王靖国。辖六十八师师长孟宪吉，下辖二一0、二一一两个旅共四个团。七十师师长杜堃。下辖二0三、二0五两个旅共四个团。
六十一军军长陈长捷。辖六十九师师长杨澄源、下辖二0八、二0一两个旅四个团。七十二师师长段树华，下辖二一七、二0九两个旅四个团。
第三十五军军长傅作义。辖一0一师师长董其武，七十三师师长刘奉滨;二一一旅旅长孙兰峰。
骑兵军军长赵承绥，辖骑兵第一师师长彭毓斌;骑兵第二师师长孙长胜。步兵第二00旅旅长李庆祥。
全军不足五万人。
原有的第三十三军、三十四军由于损失太大，仅能保留一个空头番号，人员统统充实到以上三个军中，部队军官则另外组建了教导第二师。
1938年2月，日军集中三万余人沿同蒲铁路继续南进，相继占领介休、文水、17日又占分阳、孝义。20日兵锋直指阎锡山驻地之隰县大麦郊。阎锡山严令十九军王靖国部布防交口镇御敌。二战区执法总监张培梅和赵戴文亲赴交口坐镇督战。王靖国保证可以守三天以利阎锡山布置撤退。没想到王靖国部杜堃第七十师仅仅守了一个晚上阵地即被日军突破，第二0五旅旅长赵锡章阵亡。守隰县之陈长捷部六十一军孟宪吉六十八师与日军反复争夺，隰县数度失陷又夺回。到26日，日军再次攻陷隰县，同时赵城、洪洞、灵石、霍县相继失守。
为了重振晋绥军，尽快恢复晋绥军的实力，阎锡山在共产党员薄一波的帮助下，建立了“山西抗敌决死队”共编成四个纵队，吸收了大批山西青年参军。又从山西各工厂逃出的产业工人中组成的一个“工卫旅”。
中原大战结束后，阎锡山逐渐失去了晋绥军初创时期的那种宽大胸怀，变得心胸狭窄，气量极小，对部下猜疑重重。首先在1932年使晋绥军元老商震带三十二军离开了山西。后又对晋绥军另一名将李生达痛下杀手，在用人方面阎锡山也失去了晋绥军初创时期不论地区，广纳人才的胸襟。尤其在对王靖国这种无能将军的重用更暴露了阎氏任人唯亲的恶习。张培梅的自杀充分表现了此时的阎锡山已经失去了广纳人才，重振晋绥军的能力，也不可能在治理山西方面有更大作为，更不可能把晋绥军带向光明的前途。
傅作义是晋绥军名将，从1926年晋北保卫战率一个团守天镇起即在晋军中暂露头角，后在涿州保卫战中一战成名，屡立战功，深得蒋介石之器重，这引起了阎锡山的不满，中原大战时阎就对傅设置掣肘。太原失守后阎想借故撤掉傅作义，被蒋介石制止，这更加深了阎要除掉傅作义的决心。傅作义对此心知肚明，急切地想离开阎锡山。1938年冬，蒋介石未经与阎锡山商议，突然任命傅作义为第八战区副司令长官兼绥远省主席，并将傅作义的第三十五军扩编成第一0一师、师长董其武，新编三十一师、师长孙兰峰，新编第三十二师、师长袁庆荣等三个师。三十五军实力一下子大大加强。傅作义得此任命后迅速率三十五军前往绥远五原县驻防，从此脱离了阎锡山的控制。
此三个师长都是傅作义一手提拔起来的，其中孙兰峰和袁庆荣都是在傅部从连、排长做起，最后做到傅部兵团司令和张垣绥靖公署参谋长。董其武虽然不是傅作义的起家老将，但董深谙兵法，为人忠诚。1929年投奔傅作义后，立即成为傅最信任的部将。在追随傅作义二十年的戎马生涯中，每逢恶战董皆为傅作义充当前锋大将，并屡立战功，深得傅之信任。