元代行省是行中书省的简称,其渊源可追溯到魏晋隋唐的行台和金代行尚书省.蒙古国时期,燕京、别失八里、阿母河三断事官及归降的金朝官吏、军阀等,也称为行尚书省或行省.不过,这些都算不上严格意义上的行省.忽必烈建元朝后,正式在朝廷设置中书省总领全国政务,时称"都省".不久,又沿用前朝旧例,频繁派中书省宰执带相衔临时到某一地区负责行政或征伐事务.如中统和至元前期的陕西四川行省、河东行省、北京行省、山东行省、西夏中兴行省、南京河南府等路行省、云南行省、平宋战争前后的荆湖行省、江淮行省等.其中,设立于至元十年(127年)的云南行省等,已带有地方最高官府的色彩.就是说,这一阶段的行省已显现朝廷派出机构与地方最高官府的两重性端倪.只不过此类两重性仅表现在云南等少数行省范围内,多数行省的性质仍然是朝廷的临时派出机构.
大约在世祖末成宗初,随着江浙、湖广、江西、陕西、四川、甘肃、辽阳、河南等行省的改置或增设,行省逐渐演化为常设的、固定的地方最高官府.几乎与此同时,元廷又对行省的名称、品秩、事权作了重要调整:其一,"嫌于外重",一律取消中书省宰执"系衔" ;其二,降行省品秩为从一品,通常以平章政事二名为长官、少数行省特许增置左丞相一员,但品秩仍比都省低一级 ;其三,江南等处行枢密院并入行省,实行"絜兵民二枋而临制于阃外" 的体制.这三项举措大体奠定了行省作为地方常设 机构的规模和权力框架.
在中央与地方军事权力分配中,行省似乎应该是地方军事势力的代表,行省掌握较多军事权,也应是意味着军事方面的地方分权了.然而,由于行省所具有的朝廷派出机构的性质,由于行省掌军时与朝廷的上述特殊关系,在实际效果上行省并未能构成名副其实的地方军事机关和独立的地方军事势力.行省所掌军事,既体现军事权力分配给地方的部分,又在很大程度上代表朝廷控制地方军事.其为元廷中央集权服务和倾向于地方分权的双重效应,是显而易见的.从总体上看,行省受委付提调军马,并没有对中央集权带来多少危害,反而主要发挥了某些有利于中央集权的作用.
行省拥有经济军事大权,但行使权利时受到中央的节制。行省便利了中央对地方的管理,加强了中央集权,巩固了多民族国家的统一。
设有监察机构 构成了监察行省、防范其擅权坐大的特殊机制。行台监察御史和与行省同处一城的廉访司,相继取得了对行省官吏的奏劾、按问、刷卷等权力,而且有所成效 。
行省制,就是在中央设中书省总理全国政务,枢密院掌管军事,御史台负责监察;在地方设行中书省,行省设丞相一人,掌管全省军政大事。行省下设路、府、州、县。元朝在全国共设10个行省,即岭北、辽阳、河南江北、陕西、四川、甘肃、云南、江浙省、江西、湖广。而山东、山西、河北和内蒙古等地则称为“腹里”,由中书省直辖。