一九三四年十一月十日，中央軍第三師收復被中共禍亂的瑞金，瑞金是共產黨的大本營，巢穴被搗，共產黨軍隊全面崩潰。它們知道在此地已難立足，除了留下兩萬餘人在江西偏僻的山村以外，以八萬五千人的殘兵敗將向西逃竄。
可惜國民政府軍的南路軍，沒有把沿線的碉堡筑好，湖南主席何健，此時開路讓共軍過境，以互不侵犯為條件，使八萬五千共軍逃走。共軍此次西竄，死傷枕籍，經兩萬五千里長竄，最後只剩下不到兩萬人，最後在陝西延安停留，準備在萬不得以的時候，再向甘肅、新疆逃去，依靠蘇聯。
當時國民政府認為延安是一塊荒涼之地，共軍已成喪家之犬，不難把它消滅，於是把追擊任務交給西北剿共副總司令張學良和陝西綏靖主任楊虎城解決，但張學良和楊虎城對中央所交付的追擊任務，一意敷衍，使國民政府剿共戰事未竟全功。
一九三六年初，流竄到延安的共產黨，久困陝西邊境，飢乏不能自存，於是開始向東進竄山西，搶劫財物。曾有共黨自己寫的文章，說它們當時發明瞭很多方法能將地主老財埋在地下的銀元缸給識別出來，那些文章想必都是共黨所犯罪行的的罪證。當時山西閻錫山親自到南京向蔣中正求援，閻錫山欲藉助陳誠在江西剿共的經驗，清除前來搶劫的共軍。
三月十九日，陳誠在武昌接連收到蔣中正及閻錫山的電報，要求迅速赴山西讚襄防務。三月二十二日，陳誠抵達太原，率三個縱隊剿共。
民國歷史上，山西一向是閉關自守，大隊中央軍馬來山西是空前的。當時首要的任務是恢復同蒲鐵路南段的交通，四月八日，中央軍即完成這一任務。
第二期作戰任務是與山西閻軍南北呼應，將黃河東岸的共軍殲滅。四月十三日，陳誠飛候馬指揮，又進入稷山督戰。十七日，同蒲鐵路全線恢復交通，關麟征部在大寧武城鎮擊斃共軍遺屍中發現俄人一名。二十日，共軍狼狽退集汾河以西，陳誠一面在前線指揮督戰，一面督率部隊，筑碉堡工事，一個月內在長五百五十里的山野間筑成許多大小碉堡，接連成一條堅固防線。四月二十二日，陳誠雲石視察，二十五日起各部隊完全致力於筑堡，使確能防阻共軍之突出，二十七日，汾河全部封鎖線完成。
防禦工事做好，陳誠權衡情勢，認為共軍行動飄忽，國軍應以輕裝急速攻擊以制勝，乃電請中央由陝西增請兩師中央軍到山西來。四月二十九日，第三期行動開始，一面堅固封鎖防線，一面以精銳部隊迅速進擊。到五月五日，共軍無力招架，潛遁黃河，打算西走。陳誠電請蔣委員長下令陝西張學良部隊，嚴密封鎖黃河西岸各渡口，以斷絕共黨軍隊去路，並就地殲滅，但張學良以己之私，未執行此項命令。
共軍逃亡流竄之後，人數雖不多，但經常騷擾煽動青年及不滿現實分子，對中央政府一直形成困擾。為徹底肅清西北共軍，國民政府特派陳誠為晉、陝、綏、寧四省邊區剿共總司令，由閻錫山節制指揮，集江西及山西的剿共經驗，擬進行全力圍剿。
六月一日，陳誠在太原就職，然則，當中央軍北調晉陝增援剿共兵力之時，廣州的陳濟棠和廣西的李宗仁卻開始蠢蠢欲動，發動叛亂，至九月動亂方才平息。
之後，國民政府決定對共軍進行第六次，也是最後一次的圍剿。中央這次集中精銳部隊二百六十個團約三十餘萬人，一百多架從義大利買回來的最新式飛機，萬事具備，只欠行動令下達。不想卻發生由只想打回老家的張學良、暗中通共的楊虎成、心懷叵測慫恿挑撥的中共三者相互勾結禍亂中華的西安事變。蔣介石在華清池的衛士隊是憲兵第一團團長楊鎮亞所率領的一個憲兵連，憲兵連在事發時，還在集合，就被輕機槍掃射死亡，蔣介石被欽禁，致使剿共大好時機錯過，釀下禍根。
