一九三四年十一月十日，中央军第三师收复被中共祸乱的瑞金，瑞金是共产党的大本营，巢穴被捣，共产党军队全面崩溃。它们知道在此地已难立足，除了留下两万余人在江西偏僻的山村以外，以八万五千人的残兵败将向西逃窜。
可惜国民政府军的南路军，没有把沿线的碉堡筑好，湖南主席何健，此时开路让共军过境，以互不侵犯为条件，使八万五千共军逃走。共军此次西窜，死伤枕籍，经两万五千里长窜，最后只剩下不到两万人，最后在陕西延安停留，准备在万不得以的时候，再向甘肃、新疆逃去，依靠苏联。
当时国民政府认为延安是一块荒凉之地，共军已成丧家之犬，不难把它消灭，于是把追击任务交给西北剿共副总司令张学良和陕西绥靖主任杨虎城解决，但张学良和杨虎城对中央所交付的追击任务，一意敷衍，使国民政府剿共战事未竟全功。
一九三六年初，流窜到延安的共产党，久困陕西边境，饥乏不能自存，于是开始向东进窜山西，抢劫财物。曾有共党自己写的文章，说它们当时发明了很多方法能将地主老财埋在地下的银元缸给识别出来，那些文章想必都是共党所犯罪行的的罪证。当时山西阎锡山亲自到南京向蒋中正求援，阎锡山欲借助陈诚在江西剿共的经验，清除前来抢劫的共军。
三月十九日，陈诚在武昌接连收到蒋中正及阎锡山的电报，要求迅速赴山西赞襄防务。三月二十二日，陈诚抵达太原，率三个纵队剿共。
民国历史上，山西一向是闭关自守，大队中央军马来山西是空前的。当时首要的任务是恢复同蒲铁路南段的交通，四月八日，中央军即完成这一任务。
第二期作战任务是与山西阎军南北呼应，将黄河东岸的共军歼灭。四月十三日，陈诚飞候马指挥，又进入稷山督战。十七日，同蒲铁路全线恢复交通，关麟征部在大宁武城镇击毙共军遗尸中发现俄人一名。二十日，共军狼狈退集汾河以西，陈诚一面在前线指挥督战，一面督率部队，筑碉堡工事，一个月内在长五百五十里的山野间筑成许多大小碉堡，接连成一条坚固防线。四月二十二日，陈诚云石视察，二十五日起各部队完全致力于筑堡，使确能防阻共军之突出，二十七日，汾河全部封锁线完成。
防御工事做好，陈诚权衡情势，认为共军行动飘忽，国军应以轻装急速攻击以制胜，乃电请中央由陕西增请两师中央军到山西来。四月二十九日，第三期行动开始，一面坚固封锁防线，一面以精锐部队迅速进击。到五月五日，共军无力招架，潜遁黄河，打算西走。陈诚电请蒋委员长下令陕西张学良部队，严密封锁黄河西岸各渡口，以断绝共党军队去路，并就地歼灭，但张学良以己之私，未执行此项命令。
共军逃亡流窜之后，人数虽不多，但经常骚扰煽动青年及不满现实分子，对中央政府一直形成困扰。为彻底肃清西北共军，国民政府特派陈诚为晋、陕、绥、宁四省边区剿共总司令，由阎锡山节制指挥，集江西及山西的剿共经验，拟进行全力围剿。
六月一日，陈诚在太原就职，然则，当中央军北调晋陕增援剿共兵力之时，广州的陈济棠和广西的李宗仁却开始蠢蠢欲动，发动叛乱，至九月动乱方才平息。
之后，国民政府决定对共军进行第六次，也是最后一次的围剿。中央这次集中精锐部队二百六十个团约三十余万人，一百多架从意大利买回来的最新式飞机，万事具备，只欠行动令下达。不想却发生由只想打回老家的张学良、暗中通共的杨虎成、心怀叵测怂恿挑拨的中共三者相互勾结祸乱中华的西安事变。蒋介石在华清池的卫士队是宪兵第一团团长杨镇亚所率领的一个宪兵连，宪兵连在事发时，还在集合，就被轻机枪扫射死亡，蒋介石被钦禁，致使剿共大好时机错过，酿下祸根。
