都督充河西节度使开始的。至玄宗开元、天宝间，北方逐渐形成平卢、范阳、河东、朔方、陇右、河西、安西四镇、北庭伊西八个节度使区，加上剑南、岭南共为十镇，始成为固定军区，各有受其统属之州、军、镇、城、守捉。节度使为差遣职名，例以所驻州都督、大都督长史或都护为其本官。受命时赐双旌双节,得以军事专杀，行则建节、府树六纛（大旗）,威仪极盛。节度使例兼管内调度军需之支度使及管理屯田之营田使。天宝后,又兼所在道监督州县之采采访使,集军、民、财三政于一身。又常以一人兼统两至三镇，多者达四镇，威权之重，超过魏晋时期的持节都督，时称"节镇"。于是外重内轻，到天宝末酿成安史之乱。安史乱起，唐廷为了平叛，内地也相继设置节镇，增至二十余道，不置节度使处亦置防御使,防御使不赐旌节,多以采访使兼领。其后，采访使改名观察使，例兼都团练使或都防御使，兼理军民，成为地位略低于节度使的地方军政长官。
节度使的僚佐有副使、支使、行军司马、判官、推官等，将校有押衙、虞侯、兵马使等。由于观察使是采访使的改名,故唐代后期节度使例兼所在道的观察使。节度使的僚属，都由节度使辟举，然后上报朝廷批准。所统州县长吏虽由中央任命，而实际则听命于节镇。遇刺史位阙，节镇常遣上佐摄职，然后报请朝廷正授。地方财政收入分为上供、送使、留州三部分，送使部分常占最大份额，对朝廷保持独立状态之河北三镇，甚至全无上供。内地节度使辖区虽是藩卫朝廷的军镇，但实际上往往对朝廷保持不同程度的离心状态。
唐末农民战争爆发后，朝廷进一步失去对地方的控制，节度使林立，他们拥兵自雄，互相兼并。其中武力最强、在唐亡后建号称帝者，先后有五代；其余割据一方，立国改元（也有未改元者）自传子孙者为十国。而五代十国境内之节度使亦多桀骜跋扈，节度使部下更多悍将骄卒，逐帅杀使之军变事件不断发生。