1936年(民國二十五年)2月，紅軍東渡抗日。閻錫山任命第三十四軍軍長楊愛源為總指揮，把晉綏軍所有七個師的兵力編為四個縱隊，沿黃河一線設防阻擊。在第一階段戰鬥中，關上村一戰，晉軍周原健全軍覆沒。閻錫山大吃一驚，深感紅軍的強大，絕非山西一省的力量所能抗拒，便急忙電請蔣介石派兵增援。蔣介石早想把他的勢力伸向山西，便立即答應閻的請求，迅速派嫡系部隊第十三軍湯恩伯部、關麟征所屬第二十五師孔令恂部、李仙洲部，經隴海路輸送到豫西，由通晉的各渡口過黃河入晉，沿同蒲路北上增援。另派三十二軍商震部由正太路開到晉中，增強保衛太原的力量，當時號稱15萬「中央大軍入晉作戰」，以壯聲勢，並在太原成立了晉、陝、綏、寧四省邊區「剿匪總指揮部」，由陳誠任總指揮，調度一切，負責「剿辦」。中國共產黨為了避免內戰擴大，回師陝北，並於5月5日發出《停戰議和，一致抗日》的通電，號召全國各界人士和國民黨政府，不分男女老幼聯合起來，停止內戰，一致對外，組成對內團結、對外一致的抗日民族統一戰線。
但蔣介石的軍隊仍賴在山西不走，企圖趁機削弱閻錫山的勢力，併進而待機把閻擠出山西。這時，對閻錫山最大的、最直接的、最現實的威脅，莫過於蔣介石在山西的駐軍了。
拿閻錫山自己的話來說，他當時「在三顆雞蛋上跳舞，哪一顆也不能踩破」。所謂「在三顆雞蛋上跳舞」，就是說和走鋼絲繩一樣，隨時都有掉下來的危險。所謂「哪一顆也不能踩破」，就是說他哪一方也惹不起，哪一方也要反對，但又對哪一方也得應付一下，搞點關係。他為了求得自身的「存在與發展」，不得不與共產黨以及進步人士進行一定限度的合作和採用一些共產黨的口號。為了爭取得到共產黨的支持，閻錫山曾表示說，只要紅軍能撤回陝北，他就要使蔣介石的中央軍離開山西。他答應共產黨可以派代表、帶電臺到太原談判。閻認為只要他能打出「聯共抗日」的招牌，取得共產黨對他的支持，就既可以利用共產黨的力量與威信，動員群眾來對日作戰，暫保他的全部財產，又可以逼迫蔣介石不敢對他的「內政」進行干涉。不過，他這時採取的策略，其實質卻是：既要聯共，又要在暗中防共、反共；既要抗日，又要在暗中和日、親日；既怕蔣、拒蔣，又要依靠蔣。基於這種態度，閻錫山先於蔣介石提出了「守土抗戰」、「犧牲救國」的口號，於1936年(民國二十五年)「九．一八」事變五週年紀念日，在太原海子邊(今兒童公園)召開萬人大會，向公眾宣布，「犧牲救國同盟會」(簡稱「犧盟會」)正式成立，對全國震動很大，博得了各階層進步人士的支持和好評。
犧盟會成立後，雖然在群眾中影響很大，號召力很強，報名參加的人也很多，但由於閻錫山的軍政上層人物竭力反對，受到的阻力也很大，工作沒有得到應有的開展。
為了通過犧盟會發展自己的勢力，閻錫山特請薄一波回晉。1936年(民國二十五年)10月下旬，薄奉中國共產黨中央指示，從北平回到太原，以太原綏靖公署主任辦公室秘書的名義，到犧盟會任常務秘書，主持犧盟會的日常工作。從此，犧盟會得到了大發展，統戰工作和抗日救亡運動很快發展起來。
會見周恩來和朱德
1937年(民國二十六年)7月7日，日本帝國主義發動了全面侵華戰爭，中華民族面臨生死存亡的嚴重關頭。第二天，中國共產黨發出通電，號召「中國同胞、政府與軍隊團結起來，筑成民族統一戰線的堅固長城，抵制日寇的侵略!」全國人民熱烈擁護中國共產黨的主張，一致要求對日作戰。7月15日，中國共產黨向國民黨提交了《國共合作宣言》，希望由國民黨方面新聞機關早日發表，並派周恩來等同國民政府談判關於建立抗日民族統一戰線的問題。在中國共產黨的呼籲下，7月17日，蔣介石在廬山召開的各黨派第二次談話會上，發表了著名的演說，宣布對日抗戰，宣稱「地無分南北，人無分老幼，無論何人皆有守土抗戰之責任」，並承認陝甘寧邊區政府。
9月下旬，國民黨公布了國共合作宣言，承認中國共產黨的合法地位。這樣，抗日民族統一戰線建立，國共第二次合作正式形成。
為了聯合閻錫山共同抗日，中共中央先後派彭雪楓和周恩來、劉少奇、朱德、彭德懷、鄧小平、徐向前、程子華、南漢宸等來到山西，同閻錫山商談合作抗日事宜。當周恩來等到達風陵渡後，閻派梁化之帶專列前去迎接。9月4日到太原後，在火車站舉行了歡迎儀式，又奏軍樂，又檢閱儀仗隊，非常隆重。周恩來在太原先和趙戴文、梁化之進行了接觸，後到太和嶺行營，同閻錫山直接談判，提出在二戰區的範圍內，成立有共產黨八路軍代表參加領導的統一戰線的總動員委員會的建議。閻錫山根據當時緊迫的形勢，表示同意在他控制下，在一定程度上發動人民群眾，參加抗戰，支援戰爭。雙方就成立戰動總會一事達成協議。9月20日，第二戰區戰動總會在太原宣告成立。
9月18日(農曆八月十四日)上午8點半，八路軍總部在侯馬舉行了抗日動員大會後，由朱德等率領，乘火車北上。經太原、忻州、定襄，於下午4點30分到達河邊村。總部首長除朱德外，還有左權、任弼時、黃克誠(保衛部長)、傅鐘(民運部長)等。
八路軍在河邊村火車站下車後，受到河邊人民的熱烈歡迎，閻府也專門派人到火車站迎接。當時，閻錫山正在村裡小住，朱德便前往「東花園」會見閻錫山。閻錫山以上賓接待，雙方就抗日事宜進行了商討。隨後，閻錫山設宴為朱德接風。
在晉北抗戰前線
朱德和周恩來到五臺後，由於大同已於9月13日失陷，日軍主力正由冀晉邊境的天鎮、廣靈向平型關扑來，企圖抄襲雁門關後方，晉北前線與平漢前線的戰局已迅速惡化。為了研究新的戰略部署，更好地聯合對敵，9月21日，周、朱二人到太和嶺口再次會見了閻錫山。經過協商，對平型關的防守，雙方約定：晉綏軍負責堅守平型關正面，八路軍隱蔽集結於兩側，待敵人進攻平型關時，前後夾擊。方針決定後，各自進行準備。9月22日，朱德回到五臺城，召開了一一五師連以上幹部會議，對平型關戰鬥作了部署。根據部署，一一五師師部及三四四旅(旅長徐海東)在副師長聶榮臻率領下，從五臺縣蔣坊村出發，日夜兼程，經龍泉關到了阜平，然後迂迴敵後，23日夜裡到平型關附近的上寨村待命。彭德懷率電臺工作人員驅車直上金閣嶺，住在金閣寺，二線指揮作戰。25日，八路軍和晉綏軍在平型關殲滅日軍板垣師團1000餘人，給日軍以沈重打擊，威震中外，有力地粉碎了日軍三個月滅亡中國的夢囈，鼓舞了全國人民抗戰的信心。
平型關戰役後，日軍不敢向平型關正面進攻，被迫改變戰略，由進犯大同的日本關東軍南下渾源，迂迴於雁門關與平型關之間的茹越口，發動猛攻，以策應陷於窘境中的第五師團。接著，日軍又佔領了鐵甲嶺，29日夜間，佔領了繁峙城。
在這關鍵時刻，閻錫山對形勢作了悲觀的估計，於30日深夜，在砂河南邊的一個村子裡，召開了軍事會議，閻錫山命令前線各路大軍，向五臺山、雲中山、蘆芽山轉移，集中主力於忻縣、忻口之間，以保衛太原。雁門關方面，由行營參謀長朱綬光代閻下令撤退。
10月1日，閻錫山為了向山西人民「交賬」，一方面把犧盟會的幾個領導人叫去，說：「現在我要革命了。」給犧盟會發了5000枝槍。另一方面，於10月3日在綏靖公署組織了高級軍事法庭，親自審訊了在天鎮作戰不力的晉綏軍第十一軍軍長李服膺，隨後處以死刑，使晉綏軍不敢繼續後退。加上中央軍開進山西，八路軍迂迴敵人側翼，協同作戰，於是他又壯大了膽子，和黃紹
