1927年5月，设南京特别市，图为南京中山陵。（图片来源：Adobe Stock）
“直辖”在古代称为“直隶”。直隶制始于宋朝，北宋设“路”作为省级行政区划，在二十三路之外，还有中央政府直接管辖的府，如北宋京师所在开封府。
1946年，国民政府通过的“宪法”多次提到“直辖市”，但是在第十一章“地方制度”中只讲到“省”、“县”，无直辖市与地方（西藏）的规定。而且此后的公文中仍是采用“院辖市”一词，因此“直辖市”并没有落到实处。
国民政府时期曾有12个直辖市
1921年7月北京政府颁布的《市自治制》中曾规定京都市由内务部直接监督。这是提出设置由中央政府直接监督的市的第一个正式法令，但这种市是属于自治性质的。真正在行政区划中实行直属于中央政府的市建制始于1926年。国民政府攻占武汉后，在汉口成立特别市政府，不属于湖北省管辖，由国民政府直接领导，这是我国产生的第一个直隶于中央政府的市建制。
1927年，国民政府定都南京后，便开始设置特别市（后改为行政院直属的院辖市，即直辖市）。到1947年，一共设立了12个直辖市：
南京
1927年5月，设南京特别市。1930年6月，改称南京市，为行政院院辖市。
1928年8月，设上海特别市。1930年7月，改称上海市，为行政院院辖市。
1928年6月，设北平为特别市，1930年6月，降为河北省辖市，11月，又改称北平市，为行政院院辖市。
天津
1928年6月，设天津为特别市，1930年11月，降为河北省辖市。1935年6月，又改称天津市，为行政院院辖市。
汉口（武汉）
1929年4月，设武汉为特别市（含武汉、武昌、汉阳三镇）。1936年5月，降为湖北省辖市。1947年，又升为汉口市，为行政院院辖市。
青岛
1929年7月，以日本交还的胶澳商埠设立青岛特别市。1930年9月，改为青岛市，为行政院院辖市。
广州
1930年1月，设立广州特别市。8月降为广东省辖市。1947年，又改为广州市，为行政院院辖市。
西安（西京）
1932年1月，决定以陕西长安为陪都，定名西京，直属行政院。但当时只是设立了筹备委员会，并没有成立市政府。1943年3月，批准成立西安市，隶属于陕西省。1947年，改为西安市，为行政院院辖市。
重庆
1939年5月，设重庆市，为行政院院辖市。
大连、哈尔滨
1945年9月，抗日胜利后，国民政府收回了在1905年先由沙皇俄国、后为日本占领的旅顺口、大连湾地区，改置为大连院辖市。同时还另外设有哈尔滨院辖市。不过当时是苏联红军占领了大连、哈尔滨（随后是东北抗日民主联军进驻该市），国民政府实际上并没有能够在这两个城市行使管辖权。
沈阳
1947年6月，设立沈阳市，为行政院院辖市。
