省，原是中枢机构的名称。行省为中枢机构派驻地方的机构。北朝的东魏曾设过行台省，但不常置。以后隋、唐遇有重大军事行动，也曾在地方临时设置行台省，作为中央军事指挥机构的派出机构，军事行动结束后即行废除。金朝初年，因首都设在东北，难以对燕云及黄河南北广大地域进行有效管辖，也曾设置行尚书省，后来统治稳定后又复废除。金末宣、哀两帝，为防御蒙古、南宋、西夏的进攻，也设过行尚书省多处。
元朝初年，仿照金朝在中央设尚书省作为全国最高行政机构，在地方设行尚书省作为其派出机构，设官与尚书省略同。后来，尚书省改为中书省，行尚书省也改为行中书省，其辖区逐渐稳定下来，成为常设的地方行政机构。到元成宗大德年间(1297年—1307年)，全国除大都附近包括今河北、山西、山东、内蒙古一部分地区划为“腹里”，直属中书省之外，共划分11个行中书省，简称“行省”或省。这11个行省是：1.岭北，统辖漠南、漠北地方，治所在和林(今蒙古国哈尔和林)；2.辽阳，统辖东北一带，治所在辽阳；3.河南，统辖河南、湖北、安徽北部、江苏北部，治所在开封；4.陕西，统辖陕西、甘肃东南部、四川西部，治所在奉元路(今陕西西安)；5.四川，统辖四川大部、湖南西北部、贵州北部，治所在成都；6.甘肃，统辖甘肃大部分，治所在甘州路(今甘肃张掖)；7.云南，统辖云南一带，治所在中庆路(今云南昆明)；8.江浙(后曾分出福建行省)，统辖安徽南部、江苏南部、浙江、福建，治所在杭州；9.江西，统辖江西、广东，治所在龙兴路(今江西南昌)；10.湖广，统辖湖北、广西、湖南、贵州一带，治所在武昌。此外，还有“征东行省”，统辖朝鲜半岛一带。不过，征东行省同其他行省有所不同，其行政首脑由高丽国王兼任，属官由高丽国王选择，治理亦从其俗，实际是个徒有虚名的行省。行中书省的权力很大，“掌国庶务，统郡县，镇边鄙，与都省为表里。……凡钱粮、兵甲、屯种、漕运、军国重事，无不领之”(《元史•百官志》)。
元代的行省制度虽然与唐宋以来汉族社会日益强化的中央集权观念确实有很大的抵触，但它作为元代社会发展的产物，还是起到了它在加强中央集权、巩固统治的目的，同时也对后世的政治制度尤其是地方行政区划产生了深远的影响。