成吉思汗建立蒙古國，把所屬部民按萬戶、千戶、百戶、十戶為單位編制起來，各設長以統轄，各長都是世襲的貴族，這是一種軍政合一的組織。攻下燕京以后，在燕京設行尚書省，由金朝降將行尚書省事，隨著領土的擴大，曾“節制所及凡二十余道”。

忽必烈進入中原，建立元朝，為加強對地方的控制，以中書省分駐地方，稱行中書省，以便直接處理政務。不久行省便成為固定行政區。

行省，即行中書省，或簡稱為省。元代除大都周圍一帶稱為“腹里”，直屬中央的中書省管轄，以及吐蕃和諸王封地由宣政院管轄之外，還在全國設立了河南、江浙、江西、湖廣、陜西、四川、遼陽、甘肅、云南、嶺北、征東等11個行省，以實現對“北逾陰山，西極流沙，東盡遼東，南越海表”，“有難以里數限者”的遼闊疆土的管轄。

行省“凡錢糧、兵甲、屯種”、漕運、軍國重事，無不領之”。各省設有丞相、平章、左右丞、參知政事等為正副長官，又有郎中、員外郎、都事等分管省內各種事務。丞相，平章大多由蒙古親王記當，權力極大，除中央直接任命的官吏以外，有權自選官吏。各省還沒有行樞密院和行御史臺分管軍事和監察。行省的建立有效地防止了分裂，這是秦漢以來郡縣制的一大發展，是我國省制的開端，在我國行政區劃和地方政治制度史上占有很重要的地位。

行省之下設路、府、州、縣。路統屬于行省，設有總管府，設達魯花赤、總管、同知、治中、判官等主要官員，還有學校、司獄司、織染局、東造局、錄事司等分管各項專門事務的部門。府設置得不普遍，或統屬于省，或統屬于路，或直屬于中央中書省。府設達魯花赤、知府或府尹為主要長官，又有同知、判官、推官、知事、提控案犢等員分管各種具體事務。州設達魯花赤、州尹或知州為主要長官，其他如府制。縣設達魯花赤、縣尹、丞、簿、尉、典史等主要官員，典史專主刑獄。在比較重要和遙遠的地方設巡檢司，如浙江行省泉州路的澎湖巡檢司，管轄澎湖、琉球（臺灣）等地。縣以下有鄉都和村社，為地方基層組織，鄉都置里正，村社設主首。

值得注意的是地方上的達魯花赤制。達魯花赤是蒙古語，意為鎮壓者、制裁者、掌印者，轉而為監臨官、總轄官之意。達魯花赤主要由蒙古人充任，是各級地方政府最高行政兼監督長官，雖然他們往往不管實際事務，但由于他們是高踞于其他官員之上的特殊官員，有實際的監督權，因此在地方政務中起著重要的作用。
達魯花赤的設置，反映了元代官制的特點，也表明蒙古貴族在元朝政府中占有特殊的地位。

在少數民族和邊疆地區，還根據不同情況設置宣撫使司、宣慰使司、安撫使司、招討使司和宣慰使司都元帥府，從行政管理體系講，這些使司統屬于中央的宣政院。因為它們“掌軍民之務，分道以總郡縣”，在政務上與行省有一定的關系，所以使司對于“行省有政令則布于下，郡縣有請則為達于省”。使司一般都設有使、同知、副使、經歷、都事等員，由達魯花赤任最高監臨官。使司以下設萬戶府、千戶所、百戶所，各設達魯花赤、萬戶、千戶、百戶為長官，并設有副職和負責具體事務的官吏。

根據各行省的具體情況，有的還設有懦學提舉司、都轉運使司、茶鹽轉運司、鹽課提舉司、市舶提舉司等專門機構，分管各種專門事務，是統屬于行省的單獨行政體系，地方官府無權干涉它們的事務。

元代地方行政與中央一樣，形成許多單獨的行政體系，如在軍事上統屬于樞密院的鎮撫衛所，監察上統屬于御史臺的肅政廉訪（提刑按察）司，以及統屬中央各專門職事部門的諸路匠人總管府、提舉司和主管專門事務的局、所、司、庫等，都獨立于地方行政之外，而按自己的行政體系進行工作。在眾多的行政體系中，屬于通政院的驛傳系統則是比較完備的一項制度。

元太宗窩闊臺（公元1229——1241年在位，時尚為蒙古國）對自己評價說：“自坐我父親大位之后，添了四件勾當，一件平了金國，一件立了站赤，一件無水處教穿井，一件各城池內立探馬赤鎮守了”。從那時起就已開始建立驛傳（站赤）制度。忽必烈建立元朝后，這種驛傳制度更加完善全國各地驛站林立，從和林到上都、大都，從大都到杭州，從南京到廣州，從大都到東北、西北以至西藏等地，形成若干驛站交通線路，由中央通政院負責統率管理各驛站驛道，各驛站都設有專門官員主管，這不但加強了元朝對各地的統治，而且促進了各族人民之間的經濟、文化交流，也使中外交通逐漸發達。

元朝完整的地方統治機構，加強了對地方和邊疆的控制，鞏固了國家的統一，也消除了封建勢力賴以進行割據的基礎。自元代至明清，雖然社會上曾經出現過許多動亂局面，也曾經出現過許多農民起義，但始終沒有形成封建割據的局面，除政治和經濟等方面的原因之外，地方行政制度的完整也有一定的關系。