明太祖朱元璋從一個平頭百姓起家，通過廣泛的收攬人才，起用各方面的力量，南征北戰、東征西討，終於在1368年農曆正月初四正式建國稱帝，國號大明，年號洪武，定都南京。
朱元璋剛起兵時的主要兵員是以鳳陽為中心，輻射蘇皖北部各縣的家鄉子弟，後來在征戰過程中源源不斷的接收、吸納和改造降兵，並在攻佔的領地內征發罪犯從軍以及民間徵兵，使隊伍不斷擴大，正是依靠這支力量，他最後問鼎中原。
明朝建立以前的軍事活動在戰略上主要以軍事進攻為主，為了部隊易於集結和調動，他仍然沿襲元朝舊制，採用直線式的的管理模式，即樞密、平章、元帥、總 管、萬戶等軍隊制式和官號。明朝建國後，由於武裝力量的總體戰略由進攻變為防禦的重大改變，這種直線式的統領部隊的軍事建制顯然不能適應國防守備的需要， 於是由朱元璋發明的能夠滿足國家防禦需要的軍隊建制－「衛、所」制度便應運而生。
元朝滅亡後，其殘餘勢力退守雲南、貴州、廣西一帶的邊境地 區。洪武十四年朱元璋派傅友德為征南大將軍率領三十萬人馬發動了明攻雲南之戰，經過一年的艱苦作戰，徹底平定雲南全境，最終把蒙元的殘餘勢力趕回漠北。於 是傅友德派沐英率所部建立烏撒衛等眾多衛所鎮守滇、黔、桂，其餘部隊則揮師北進，沿長城一線佈防。洪武二十三年，由於倭寇對沿海一帶的不斷襲擾，朱元璋下 令從北起環渤海灣，南到福建沿海建立了天津衛、威海衛、金山衛等一大批衛所，形成了一道堅固的沿海長城。至此，這種主要以防禦為目地的衛所防禦體系基本形 成，連同內地每個行政郡必須建立一個守禦衛的規定，到洪武三十八年全國共建立守禦衛329個，守禦千戶所65個，正規軍總兵力達到200萬。又建立軍民指 揮使司，下轄地方民團，使軍民守禦衛所總數達到547個。
明朝的軍隊建制是衛下轄千戶所，千戶所下轄百戶所，百戶所下轄總旗，總 旗下轄小旗，小旗是最基本的作戰單位。在正規軍的394個衛所中，有65個守禦千戶所是獨立設置（相當於現在的獨立團）不受衛的約束，它們一般都分布在要 害地區或兩衛之間無法銜接的部位。通常情況下一衛統轄五個所，兵員5600人；衛的指揮機關叫「指揮使司」，設指揮使一人正三品，指揮同知二人從三品，指 揮僉事四人正四品，衛鎮撫二人從五品，經歷一人從七品，知事一人正八品，吏目一人從九品，倉大使、副使各一人，各司其職，逐級負責。一個千戶所下轄十個百 戶所，兵員1120人；千戶所設正千戶一人正五品，副千戶二人從五品，所鎮撫（鎮撫是專管軍紀的官員，百戶缺員時可代百戶行使職權）二人從六品，吏目一 人，與上文提到的65個獨立的守禦千戶所的官兵配置大體相同。一個百戶所下轄兩個總旗，兵員112人；百戶所設正六品百戶一人，從六品試百戶一人。總旗下 轄五個小旗，兵員56人；小旗管轄10名士兵。
明朝的衛所分內衛和外衛，外衛的主要職責是防禦外侵、維護轄區社會治安、平叛、集 結征伐，外衛的管理機構叫都司使司，明初按地域劃分都司使司23個，所轄衛所347個，分別隸屬於五軍都督府（即前後左右中五軍）直轄於兵部。內衛分京營 和親軍都護府，京營又分南京京營和北京京營，共設衛35個，主要負責京師的守備；親軍都護府統轄皇帝的親兵，共設12個衛，主要負責皇宮的守衛、皇帝的護 駕等項事宜。親軍都護府由皇帝直接指派的親信大臣統轄，不受兵部領導。親軍都護府所轄的12個衛中，第一衛叫錦衣衛，下轄17個所約兩萬人，主要負責皇帝 出行的護駕、護衛、儀仗和皇帝交辦的緝捕刑獄、密偵查抄、民情訪查等項事宜，有點像8341部隊的職能，是唯一能同皇帝近距離接觸的親兵。在錦衣衛中由皇 帝欽典忠誠奉守，武功高強者180人為帶刀侍衛，用以守護皇宮大殿，時刻不離皇帝左右，享有無尚的榮耀。錦衣衛同內務府的太監在工作性質上有著本質的區 別，錦衣衛的工作性質是護駕、護衛並有規定的活動區域，而太監則專供使役和扶持，他的活動區域主要是內宮，中國歷朝歷代都有「太監不准出宮」的規定，不過 由於皇族「嘴大」，他自己的規定往往也由他自己來打破。
以上各衛所的隸屬關係和統轄規模在朱元璋死後的歷代繼承者中，根據個人的需要和喜好都有很大的變動。
上述以守禦為目地的軍隊建制如果遇到大規模的戰事時，則由皇帝親自點將稱「大將軍」一名，「副將軍」多名，由兵部酌情徵調各衛所由指揮使和正千戶分別帶隊集結從征，戰後官軍各回其衛所。
在衛所中佔壓倒性多數的是分散設置在中國全境的外衛。在和平年代外衛的職能是：戍軍(從事戍守城池、巡邏和海防)，屯軍(從事軍屯之耕作)，運軍(從事 運輸通訊)，班軍(輪流上京城執行勤務的番上和輪流在邊境執行勤務的番戍)等。當然，根據衛所所在地具體情況的差異，有的以戍軍為主體，有的以軍屯、運輸 和執行勤務為主等等多種多樣。
明朝軍隊實行的是職業兵役制，即一朝當兵，終生為伍，父去子替，世代沿襲的襲替制度。軍人的家庭叫 軍戶，軍戶的戶籍歸兵部管理，而民戶、匠戶、灶戶的戶籍分別歸州縣、工部和鹽課司管理。在軍戶中一般情況下一戶有三個兒子的，一男從軍、一男替補、一男持 家；有兩兒子的，一男從軍、一男持家；有一個兒子的，不從軍，該家庭轉為民籍（民籍即民戶，民籍後來演化成「戶口」的專用名詞，這種叫法到解放初期仍在沿 用），其軍戶戶籍則由其他的符合條件的家庭取代。這種以職別劃分管理許可權的辦法一直沿用到明朝滅亡。
軍人按照軍官和軍士的區分根 據國家規定獲得不同的俸祿和俸糧，軍階越高則給俸越高。軍人到60歲退休，退休後按照在職時的軍階享受「優給」（相當於現在的退休待遇），普通士兵的退休 優給則寥寥無幾。軍人死於戰陣或王事的要給以一次性撫恤。軍人死亡（繼承人叫襲職）或退休（繼承人叫替職）後，其襲替有著嚴格的管理規定，必須按照嫡長 子，嫡長孫，嫡次子，庶長子，兄弟，侄子的順序依次襲替，襲替人要由所在衛所預先核實確定後逐級上報兵部備案。經核准的軍官的繼承人叫「舍人」（舍人只被 確定一人，不包含軍官的所有子弟），一旦被確定為舍人的，無論年齡大小都由國家給予「優養」待遇，直到繼承軍職。舍人一般在十六歲方可繼承實職，未到繼承 年齡被繼承人亡故或退休的，可由被繼承人的兄弟暫時頂替，舍人超過16歲被繼承人仍未退休的，必須待被繼承人退休後方可繼承實職，所以，三、四十歲的老舍 人在軍戶中屢見不鮮。舍人繼職前要經過所屬衛所的擔保和推薦，然後本人必須到兵部報到，再由兵部核察其品性乃至家庭和本人的「武歷」，有的還要加上叫做 「比試」的考試，必須取得合格的成績方可批准繼承。所以，舍人要想通過考核一般都在十二歲左右就要到被繼承人所在部隊進行見習，以鍛練熟悉職務提高武功的 能力，在見習過程中榮立軍功的可申報「舍人報功」，作為考核舍人任職的重要條件。
明朝政府規定，舍人繼承一般都要按照被繼承人原 職下降五階使用，《明史》記載：洪武十六年，定職官子孫蔭敘。正一品子，正五品用。從一品子，從五品用。正二品子，正六品用。從二品子，從六品用。正三品 子，正七品用。從三品子，從七品用。正四品子，正八品用。從四品子，從八品用。正五品子，正九品用。從五品子，從九品用。正六品子，於未入流上等職內敘 用。從六品子，於未入流中等職內敘用。正從七品子，於未入流下等職內敘用。
由於朱元璋在開國之初早有規定，非戰功不得受封、不得享受世襲網替，所以，一般情況下，軍官家庭如無特殊變故可世代為官，終生享受恩科優給。士兵家庭只能世代為兵，有因軍功或王事獲得擢升的也是鳳毛麟角。
朱元璋非常講究養兵、練兵和用兵，他為軍隊建設欽定的四十字指導方針就是：「神威精勇猛，強壯毅英雄。克勝兼超捷，奇功奮銳鋒。智謀宣妙略，剛烈效忠 誠。果敢能安定，揚名顯大勛」。突出了勇猛、果敢、智謀、效忠的治軍原則。 洪武六年，朱元璋命中書省、大都督府、御史臺、六部聯合議定軍隊大練兵的管理辦法，例如考核弩兵有兩個項目：即射程和命中距離。射程，帶隊軍官必須達到一 百六十步，士兵必須達到一百二十步，以射十二箭六箭達標為合格；命中距離五十步，以射十二箭六箭命中為合格；其他各軍兵種各有規定。為了檢查練兵效果，每 年必須抽調各衛所兵員的五分之一進京進行御前驗試，距離京城較遠的各衛所由兵部派員到都司所在地集中監督進行，逐年輪番更替，五年為一個週期。在驗試考核 過程中，以衛為單位各項指標都達到規定的，軍官逐次分別記功，士兵賞六百錢。此後又規定無論軍官或士兵都賞賜現鈔分三個等級，外加往返路費。達不到規定 的，將領自指揮使以下：所統軍士有三份至六份不達標的，次第奪俸；七份以上，次第降官直至降到軍士為止；明年再驗試仍不合格的，士兵發配雲南戍邊，軍官帶 罪從征，總旗和小旗降為軍士。從中可以看出，對軍官的降職能大刀闊斧，對士兵的提升卻非常吝嗇。
在實戰中，朱元璋的賞罰制度則以 封官加爵的激勵為主。明朝建國初期四方並不安定，元朝的舊貴族、雲南大理的段氏小王朝、元末戰亂期間出現的各派軍事力量的殘餘仍然佔據山林，各霸一方；尤 其洪武末期倭寇在海上的騷擾不斷升級，他們燒殺搶奪，危害百姓，迫使大批居民被迫逃離家園，造成沿海地區的大片田地荒蕪，迫使政府經常用兵。為了鼓勵部隊 勇往直前，奮勇殺敵的精神，洪武十二年規定把戰功分為三等，即奇功、首功、次功。凡是在兩軍交鋒之際，能夠勇敢的衝入敵人陣地、斬將奪旗的，衝到敵人的背 後、給對手以大量殺傷的，本隊已經獲勝但友臨隊伍勝負未決、能夠及時救援克敵制勝的，執行特殊任務、出奇制勝的都可定為奇功；衝鋒在前、戳敗敵人銳氣的， 前隊交鋒被敵人抑制、後隊衝鋒使敵人敗退的，圓滿完成偵察任務、擒獲敵人密探細作的可定為首功；其他都為次功。到永樂初年又規定，斬殺來犯倭寇將領一人的 官升三級，不願意授官的一次性賞給白銀一百五十兩；斬殺倭寇士兵一人官升一級；斬殺漢奸一人官升半級。與倭寇交鋒陣亡的，本人的撫恤按升高一級給付、其兒 子按官升一級襲職。凡是在海戰中立功的、都按奇功待遇。
由於把平時訓練與實戰結合，同有著終生經濟利益的獎懲掛鉤，使部隊的戰鬥力大大增強。出現了像戚繼光那樣的一大批抗倭名將和許多訓練有素、奮勇殺敵的士兵。
除此之外，朱元璋在軍隊的經濟建設上也創造了很多辦法，實行軍屯就是一個很好的例證。據洪武二十六年統計，全國總人口為六千零五十四萬，而同期的兵員總 數為二百萬，平均三十個百姓養一個兵，這對生產力相對落後的明朝初年是一個很大的負擔。於是朱元璋採取了軍屯的辦法以軍養軍。他把衛所周圍的土地收歸國家 所有，叫做「官田」，要求各衛所都要從事屯種。規定，邊疆地區，三分守城，七分屯種。內地，二分守城，八分屯種。屯種的士兵每人分給田地五十畝為一份，動 員軍戶全家共同耕種，配備耕牛、農具，教種植技術，徵收租稅。明朝初年每份收稅五石，到洪武三十五年增加到每份十二石。到永樂初年又規定，每份除了交糧十 二石外，以剩餘六石為標準，多交的賞現金，不足的罰俸祿。同時按田地的肥瘠程度不同區別對待，以種樣板田的標樣參照評定考核，並且根據種植農作物品種的不 同以稻米為標準進行折扣。例如太原左衛千戶陳淮所管轄的樣板田，每個軍士生產餘糧二十三石，朱元璋下旨給以重賞。由於採取軍屯，使各衛所在吃穿用度以及俸 糧的發放上基本實現了自給自足，剩餘的錢糧除去衛所的修繕、擴建等合理支出外，由兵部負責徵調用以調劑偏遠荒僻的衛所。
綜上，明 朝的軍隊建制是為了適應國防守備需要的一種建制，明朝政府對軍隊的管理是冷兵器時代的一種比較科學的進步的管理體系，這種管理一直影響著它以後六百多年的 軍隊建設的歷史。朱元璋作為明朝軍隊的創始人無疑對此作出了重要貢獻。但是，它也有很多不盡如人意的地方，比如軍官的選拔採取恩科襲替的辦法，極大的限制 了軍事人才的發現，壓制了士兵的積極性和創造性。這種不平等的制度把士兵被動的捆綁在「衛、所」這個戰車的車輪下任其碾壓。由此造成在洪武以後的各個時 期，士兵逃亡的現象時有發生，僅洪武六年前後逃亡者竟高達五萬人。儘管政府對此採取很多措施，逃兵仍然有增無減，在一定程度上暴露出這種軍隊管理體系的弊 端。
《明史》《明太祖寶訓》
