公元577年北周灭齐，统一了北方。581年杨坚代周，建立隋王朝，称隋文帝。586年渡江灭陈，终于使长期南北对峙的局面又归于统一。

隋的都城仍在长安，不过隋在旧城南龙首山旁另筑大兴城作为京师，而以洛阳为东京，后改称东都，隋炀帝时曾对洛阳大加营建，并置洛口、回洛等仓，储备粮食。洛阳的地位较大兴更为重要，所以在大业元年(公元605年)即迁都于此。

隋代统一以后，所面临的一大问题即是政区的整顿与改革。那时南朝是“境土屡分，或一郡一县割成四五，四五之中亟有离合，千回百改，巧历不算”，甚至有的郡县“散居无实土，官长无廨舍，寄止民村”(分别引自《宋书》与《南齐书》的州郡志)。北朝的情况正如前面提到的，“百户之邑，便立州名，三户之民，空张郡目”(《北齐书·文宣帝纪》)。这样的烂摊子，如何推行政务？所以隋王朝不得不大刀阔斧，进行改革。文帝时，“存要去闲，并小为大”，罢天下诸郡(《隋书·杨尚希传》)，计500余个；改三级政区为二级政区，即州县二级制。炀帝时又改州为郡，行郡县二级制。以今北京市的市辖县区而言，先属北齐，周灭齐后，对齐时政区已作了一些调整，今全市范围当时分属于幽、云、燕三州及所属五郡。到隋炀帝时今市区除三县别属他郡外，全部皆属当时的涿郡。涿郡的治所为蓟，是旧燕郡的治所，燕郡合并范阳郡后，用范阳郡治所的涿作为新郡的郡名，很容易使人误会涿郡中心在今涿州市。今涿州市时称涿县，只是涿郡的一个属县。

隋代新增的郡有西海、河源、鄯善、且末与伊吾五郡，是隋王朝消灭了今青海高原上的吐谷〔tuyu土玉〕浑(亦作吐浑)政权后，乘突厥中衰时建立的。过去“突厥、吐浑，分领羌胡之国，为其拥遏，朝贡不通”(《隋书·裴矩传》)。现在扫除了西域和中原间的障碍，使边疆和内地加强了联系，也为“丝绸之路”的畅通，扫清了障碍。这个西海郡在今青海湖西，和新莽与曹魏时的西海郡位置都不同，不能混淆。

还应一提的是，这时祖国宝岛台湾也加强了与大陆的联系。隋唐时称台湾为琉球，这里自古就是中国领土的一部分，不少古籍都有记载。三国时孙吴即曾派人进驻，大陆人民移居这里的日渐增多。《隋书·陈稜传》记载朝廷曾派人前往“慰抚”，琉球人也“往往诣军中贸易”。

唐人所编的《隋书·地理志》仍按《禹贡》的九州叙述隋时郡县，事实上当时并无九州的政治区划。隋代也无监察区的明确记载，仅知设有司隶台大夫一人，掌握巡察；别驾二人，分察畿内；另由刺史14人，巡察畿外各郡(见《隋书·百官志》)。这14人是否分区巡察，则缺乏记载。

隋代初行州县制16年，后改行郡县制19年，采用郡名时间较长，应为秦代以来郡县制的延续。但到唐代，又改行州县制，其中仅有天宝年间改行郡县制15年，以后又改郡为州，并且郡在政区中以后即不再出现，可见隋的启后作用大于承前。