郡县制是秦代时所创的，秦始皇统一六国之后，废除了分封制，改立郡县制，建立起了统一的中央集权国家，当时一共将天下分设为三十六个郡，每个郡的地方长官都由朝廷直接委派并且只对中央朝廷负责。
后来到汉代，郡县制和分封制并存，也就是郡国并立，不过汉代所谓的“国”和春秋战国时的“国”有着本质上的区别，那些诸侯王对自己的封国并没有行政管辖权，其国相也并不是诸侯王自己封的而是由朝廷委派，其实除了名称之外，太守和国相的俱都是一样的。
汉代在郡国之上，又设立了十二个州加司隶校尉部，以方便管辖辽阔的疆域。
但在汉代州并不是行政区而是监察区，州的最高长官是刺史，行使的是监察权力，秩六百石，官位要比二千石的太守国相差了很远，所以在汉代便出现了下品官员管理上品官员的奇葩事。
后来到了汉末，群雄割据，州的地位也逐渐地从监察区向行政区转变，最为明显的例子就是许多州设立了州牧，州牧可不是六百石的官员，而是比二千石更高一级的中二千石，州牧成为了实打实封疆大吏，拥兵坐镇一方的诸侯。
到了三国时代，虽然州的长官有时被封为州牧，有时被封为刺史，比如施绩就是荆州牧，而交州那边陶坚就是刺史，但实质上两者并有什么太大的区别，都是州一级的行政长官，只是州牧稍微显得尊崇一些，但他们的权力是一般大的。
相对而言，郡守的地位下降了不少，原本郡守和国相都是直接向朝廷负责的直属官员，但州成为行政区后，太守国相就需要向州牧刺史负责了。
而且郡国的数量也在不断地增加，所管辖的面积也相应地缩小，许多的大郡都是被一分二，甚至一分为三四，以吴国的荆州为例，在吴刚夺取荆州之后，吴国境内的荆州共设有江夏、南郡、武陵、长沙、零陵、桂阳六个郡，后来不断地析分，新设立了建平郡、宜都郡、衡阳郡、湘东郡、临贺郡，生生地将荆州六郡划分为了荆州十一郡，郡的数目，比汉代时