汉武帝时,在各州均设置刺史,“位卑权重”,“以小驭大”,即刺史官阶低于郡守,但其巡察时代表中央监察诸侯王和地方高官,权力很大;无固定的治所。他们直接对中央政府负责,每一个刺史负责视察帝国中包括一批郡和国的指定的区域。他们调查皇帝的政府运转的情况,如果发现压迫、无能或贪污的证据,就直接上报。刺史之职的一个与众不同的特点是他们的地位,刺史的官阶大大地低于他们奉派去节制其工作的郡守。
东汉初期,刺史的监察权进一步加强,增加了地方行政权和军权,刺史变为州一级的地方长官,地位高于郡守。东汉末年,刺史改为州牧,掌握一州的军政大权,成为州的最高长官。刺史实际已为一州军政的长吏、太守的上级,州郡两级制随之形成。
魏、晋时期,刺史有领兵、单车之别,单车即不领兵之意。领兵刺史四品,五品。领兵刺史多加将军号,任重者称“使持节都督诸军事”(任一州的刺史,同时都督数州甚至十数州军事),次为单车刺史“假节都督(某某等州)诸军事”,又次为使持节。西晋统一初,曾停止刺史加将军号。西晋末天下大乱,乃仍旧。南北朝沿袭,惟昆魏道武帝时不同,州有三刺史,包括皇室一人。
隋文帝撤销郡,州长官除雍州牧外,均为刺名。炀帝改州为郡,改刺史为太守。又设司隶台,掌巡察,有刺史十四人,为司隶大夫属员,正六品,任巡察各地之职,其地位品秩,均与汉武帝时的部刺史相同。唐改良改郡为州,以太守为刺史。唐玄宗又改州为郡,以刺史为太守。肃宗再复旧制。隋、唐州郡相同;刺史太守亦同。宋以朝臣出知州(或府)事,所任即隋、唐刺史之职。欧阳修撰《丰乐亭记》,自称刺史;撰《醉翁亭记》,又自称太守,盖刺史与太守早无区别。宋官制另有刺史,作为虚衔,任者并不赴任。元以后刺史之名废。清人用作知州的别称。