這支神秘的部隊，就是南京國民政府自1927年起傾力秘密組建，並於1933年邀請德國特種部隊教官進行訓練而成的王牌特種部隊－－委員長特別衛隊，代號「中國憲兵」。
據日本女間諜川島芳子於1946年交代，1934年國民政府國慶閱兵後僅30分鐘，日本情報機關就接到了土肥原從南京發來的密電，上面只有一句話：中國憲兵現身南京，戰鬥力極其強大。
隨著北伐的勝利，蔣介石於1927年開始了對全國200萬軍隊的選拔工作，經過層層嚴格篩選，組成了一支8000人左右的衛隊。衛隊的成員個個身懷絕技，以一當百。
1933 年，隨著國民政府與德國的關係日益密切，應蔣介石要求，德國秘密派遣王牌教官勃羅姆來華，進行中國憲兵的秘密訓練工作。在勃羅姆的嚴格訓練下，又有近 4000士兵遭到淘汰。剩下的這4000士兵在德國教官的嚴格訓練和先進的全套德式裝備下，擁有了極強的戰鬥力，成為了中國乃至整個亞洲最為精銳的部隊之一。
1937年，抗戰全面爆發，在江南戰場上，中日雙方幾乎集中了最精銳的兵力。蔣介石也幾乎將中央軍悉數派上戰場。但由於中國憲兵太過精銳及珍貴，因此，在70萬國軍(多數為中央軍)與侵華日軍淞滬大戰的時候，中國憲兵並沒有參戰，而是在南京待命。
上海等地陷落後，日軍開始向南京發起了總攻，蔣介石前往武漢，將中國憲兵留在了南京。隨後，唐生智率領10萬南京守軍與日軍展開了巷戰。
戰況越來越緊急，國軍第五軍被日軍包圍在雨花臺，傷亡慘重。唐生智緊急調動了中國憲兵兩個營的兵力去雨花臺接防。
此時，第五軍已經面臨全軍覆沒。攻擊雨花臺的是日軍甲種作戰師團---梅村師團，師團長梅村是蔣介石在東京留學時的同班同學。正是這位梅村師團長，在雨花臺爭奪戰中，最終成就了中國憲兵的赫赫威名。
當兩個營的中國憲兵與第五軍在雨花臺接防完畢的時候，梅村發起了最後一輪的攻擊。他認為他面對的只是一批疲憊不堪的第五軍戰士，然而，就在這個時候，雨花臺響起了德式衝鋒槍的怒吼，大吃一驚的梅村剎那間大腦一片空白。在20年後的回憶錄中，他這樣描述當時的自己：「我的頭腦一片空白，不知道是興奮還是惶恐，我突然意識到，我們真正的對手來了。」
如果說開始日本人只是惶恐的話，那麼之後的一天時間則成為了這些經歷過這場戰爭的日軍士兵心中永遠的噩夢。兩萬多日軍對兩個營中國士兵的戰鬥，成為了梅村師團歷史上最大的恥辱。
600名中國憲兵，平均每個人防守一段25米長的陣地，平均每個人要面對約40名日軍甲種師團士兵，戰鬥從早上打到黃昏，一批批日軍倒在了雨花台上，始終不能前行一步。日本人自己後來都有描述，說：「『三八大蓋』在對方鋪天蓋地的彈雨中簡直就成了一根燒火棍。」
梅村師團也不愧是日軍戰鬥力最強的部隊之一，始終攻擊不止，在最危急的時刻，梅村親自帶領敢死隊，與中國憲兵在陣地上拼起了刺刀。然而中國憲兵也以硬對硬，上好槍刺與日軍展開肉搏。終於，號稱天下無敵的梅村師團，在黃昏時分倒在了中國憲兵堅韌不拔的精神面前，倉皇地丟下上千具屍體撤退了。
值得一提的是，在拼刺刀的戰鬥中，梅村的寶刀被中國憲兵的戰士繳獲，梅村自己也被砍傷了骼膊，幸得部下掩護才保住了一條性命，這在武士道精神中可謂奇恥大辱。而中國憲兵也付出了慘重代價，50多名戰士長眠在雨花台上。
不久，日軍全面反撲，中國憲兵部隊奉命撤離雨花臺，回到營房駐地。但在撤退途中，日軍諜報機關得知了中國憲兵的駐地位置。
1937年12月12日深夜，日軍出動飛機50多架，對中國憲兵的駐地展開了瘋狂的轟炸，大部分戰士在睡夢中被炸死，僥倖逃出者僅200人， 憲兵副司令肖山令中將亦於此夜殉職。
此後，中國憲兵剩餘的200多人被化整為零投放到了西南戰場，參加了西南戰場的大部分重要戰役。特別是震驚中外的長沙會戰，正是由於中國憲兵小分隊成功偷襲了日軍的臨時機場才使得日軍失去了制空權，為長沙會戰消滅上萬日寇奠定了基礎。1942年新五軍入緬作戰，當部隊被日軍團團圍困的時候，又是3名中國憲兵戰士，憑藉超強的生存能力穿越了日軍的封鎖，與英美部隊取得聯繫，使新五軍免遭全軍覆沒的厄運。這支部隊在化整為零以後顯示出了強大的戰鬥力，並立下了卓越的功勛。1949年大陸淪陷前夕，這些特種兵大部分隨撤退部隊去了臺灣，少數留在大陸的被中共殺害，這是中共殘殺抗日英雄的又一罪行。
