但是既不放心各地方的人民，怕其要反叛，县的兵力不足镇压，而要设置了许多郡守，又怕郡守的权力太大了，于己不利，于是每郡又派一个御史去监视着他。到汉朝，皇帝不再派御史，而由丞相分派若干个史，出去监察各郡，这个史便称为刺史。刺史本非行政官，一个刺史监察几个郡，只是办事上一个分划的手续，并不是什么行政区划，所以其初并没有州的名目而称之为部。这部字，便是现在部分两个字的意思。到后来才改称为州，但是名目虽改，其实权还是一样。直到后汉灵帝时候，改刺史为州牧，其实权才有变更的。改刺史为州牧，前汉时就有此举，但是不久又改回来了。
当时主张改刺史为牧的人，议论是这样的，他们说：刺史的责任在监察太守，可是他们的官位比太守小，他们的资格也比太守浅。政治上的秩序，是要使大官去治小官，不该使小官去治大官的。所以要把刺史改名为牧，算作太守的上级官，用资格深的人去做。其实这话是错的。监察和行政是两个系统。监察一系的官吏，可以监察行政官，乃其职权如此，并非把其官位和所监察的官的官位，比较大小而定的。而在事实上，则行政官宜用资格较深的人，监察官宜用资格较浅的人。因为行政有时候要有相当的手腕，而且也要有相当的技术，这是要有经验然后才能够有的，所以要用资格深的人。至于监察官，则重在破除情面。要锋锐，不要稳重。要有些初出茅庐的呆气，不要阅历深而世故熟。要他抱有高远的理想，看得世事不入眼，不要他看惯了以为无足为怪。要他到处没有认得的人，可以一意孤行，不要交际多了，处处觉得为难。把现在的事来说，学校里初毕业的人，文官考试刚录取的人，宜于做监察官。在官场上办过若干年事情的人，宜于做行政官。而且行政官和当地的人，总不能毫无联络。对于土豪劣绅等，有时虽明知其不好，也不容易专走方路，把他们尽情惩治的，因为如此，他就要暗中和你为难，使你缓急之际办事棘手，有时为害甚大。就是平时的政务，也不免要受他牵掣的。我前文说行政官必须要有些手腕，这也是其中的一端。至于监察官，则根本不办什么事情，不怕你掣肘。而且汉朝的刺史，只有一年一任，到你要和他为难，他倒早已离开你这地方了。土豪劣绅的势力，大抵只限于本地。要离开本地，赶进京，或者到别地方去和前任刺史为难，是不容易的。所以汉朝刺史的制度，确有相当的价值。前汉时主张改刺史为州牧的人，其议论实不得当。所以后来行之而不好，就不得不将旧制回复了。