唐宋时代，人们常将主簿与县尉并称，通呼作“簿尉”，但顺序上还是排出了前后：一个县衙门中，主簿是老三，县尉是老四。明朝开始，县尉这个职称没有了，另以典史敷充其职，老百姓在习惯上叫作“四老典”或“四爷”。此外，县令称“正堂”的话，县丞便叫“左堂”，县尉或典史便叫“右堂”，不过这又是绅士们的叫法了。
从头讲起的话，县尉是秦汉时就已确立下来的官职。紧随东汉其后，魏、蜀、吴三国的缔造者，都是县署丞尉出身。《三国志·吴书·孙坚传》记，孙坚先是受朝廷除授任盐渎县丞，几年后调任盱眙县丞，又转任下邳县丞。曹操的起家是“举孝廉，为郎，除洛阳北部尉”(《三国志·魏书·武帝纪》)，洛阳是京县，这种县尉有四个，曹操是分管北部治安的。据《三国志》裴注引《曹瞒传》说，曹操“初入尉廨，缮治四门。造五色棒，悬门左右各十余枚，有犯禁者，不避豪强，皆棒杀之”。甚至连权宦蹇硕的叔父亦不能幸免，只因犯了不许夜行的禁令，便被活活打死。皇帝周围的人看着他讨厌，又抓不到把柄中伤他，于是故意说他好话，给提升一下，撵到顿丘去当县令。刘备是因镇压黄巾起义有功而被委派到安喜当县尉的。《三国志·蜀书·先主传》记“督邮以公事到县，先主求谒不通。直入缚督邮，杖二百，解绶系其颈著马柳，弃官亡命”。《三国演义》把这段情节移到张飞身上，未免辱没刘备本色。“解绶”的描写，说明当时的县尉就有印绶;“初入尉廨”，又说明县尉也有独自的衙署;至于杖杀权宦叔父的行迹，就更说明两汉时小小县尉的威风了。
隋唐时代，县尉的职掌依然承袭汉晋，还是主管一县治安。长安有四尉，大县有二尉，其他县则一县一尉。可是曹操的那等威风，这会儿全没了，品秩则每况愈下，京县尉是从八品下，下县尉是从九品下，比主簿更卑微，挤到了九品十八级的最低层。
前已有述，簿尉品秩虽微，然科第出身之士人初入仕途，仍须由此而进。有唐一代，几多名人，都有当县尉的经历。比如白居易登第后，曾有“慈恩塔下题名处，十七人中最少年”的诗句，多少得意，可是他曾经去当县尉;此外像柳宗元当蓝田县尉，贾岛当长江县尉，温庭筠当随州县尉等，皆属此类。现在想想，那么多大文豪都一个个坐在小县城的“警察局长”位置上，成天忙着去执行捕盗抓匪的事，未免有些滑稽，可这在古代却是极正常的现象。宋朝的制度，也因袭唐朝，宗泽的仕途便以馆陶县尉起家，专门带着人抓逃兵;还有那位权相蔡京，亦是从钱塘县尉做起，《夷坚志》上还记有他带人去阳村巡捕的故事。
历史上发生过的宋江起义，在《水浒传》里被渲染得轰轰烈烈，但不少史料都说明曾有一个小小的县尉做过起义军的劲敌。如葛胜仲《丹阳集》里有篇《承议郎王公墓志铭》，记曰：“公王氏，讳登，……男长曰师醇，次曰师心，……其后师心为海州沭阳县尉，遇京东剧贼数千人浮海来寇，公适就养在邑，命引兵追击境上，馘渠酋数十人，降其余众，一道赖以安堵。”“京东剧贼”是什么人呢？又有汪应辰《文定集》中的《显谟阁学士王公墓志铭》可以参证：“公讳师心。……登政和八年进士第，授迪功郎、海州沭阳县尉。时承平久，郡县无备，河北剧贼宋江者，肆行莫之御。既转掠京东，径趋沭阳。公独引兵追击于境上，败之，贼遁去。”类似王师心这种以县尉职守“御盗”的事例，还可以从宋代史料中找出很多。如《宋会要》记政和五年时，“叙州南溪县尉张钧躬亲率领保正等，捕获放水强盗贼人软落亨等同伙一十五人”;《东都事略》记方腊起义时，缙云县尉詹良臣曾率弓兵前往镇压。
元朝时县尉官职依然存在，官廨称巡尉司，但同时又有了典史这种官称。从明朝起，县尉被取消了，原先的职掌大致被剖成两个部分，大抵狱囚警逻等归典史主管，还有些巡防、弹压、捕盗等事务，酌情分归巡检。清朝沿袭了明制，也是每个州县设典史一员，但又于分管范围外，常常充任县衙门里的事务官角色，故而又被叫作吏目。吏目是吏胥的头儿，又是官员行列的尾巴。尤其令人注目的变化是，明清时代的典史品秩更低下，连九品十八级中最后一级也没巴结上，这叫“未入流”。不过“未入流”也还是官身，而且依循它前身是县尉的旧观念，通常也可以升转，也可能有代理主簿、县丞甚至是知县职务的机会。吴伟业著《鹿樵纪闻》，述明末清兵下江南史实，谓江阴典史阎应元以防御海贼顾三麻有功，升做英德县主簿。还没来得及赴任，清军把江阴县围住了，这时候县衙门里负实际责任的，是刚刚接任的典史陈明遇。陈明遇再特意把阎应元请回衙门，由绅民共推为代理县令，领导了悲壮的江阴守城战。和过去的县尉当由朝廷委派一样，典史仍由吏部除授，阎应元是北通州人，却被派到南方来当这个“未入流”。
在明清史上，阎应元是典史辈中较出名的一位，后来江阴人还为他修了阎典史祠。而清人李宝嘉所著《官场现形记》里，则塑造了几个文学形象的典史，对读者们了解典史是怎样搞钱肥私的，倒很有些认识价值。那位在全书开场不久便亮相的钱伯芳钱典史，据他妹夫王乡绅向王孝廉介绍，“虽然只做得一任，任上的钱倒着实弄得几文回来。你们一进城，看见那一片新房子，就是他的住宅。做官不论大小，总要像他这样，这官才不算白做。”王孝廉听说钱典史会通路子，便问“既然有路子，为什么不过班做知县，到底是正印”。岂知钱典史也有个理论——“州、县虽是亲民之官，究竟体制要尊贵些，有些事情自己插不得身，下不得手;自己不便，不免就要仰仗师爷同着二爷。多一个经手，就多一个扣头，一层一层的剥削了去，到得本官就有限了;所以反不及做典史的，倒可以事事躬亲，实事求是。”
会不会“做”典史的真诀，算是被他点到要害了。明清时老百姓有句口头禅，云：“要钱典史，不要钱御史。”意思是御史有弹劾维纪之责，面子上总要做得清廉一点;而典史则不同，全无体制尊贵的顾忌，即如钱伯芳自言的，“事事躬亲，实事求是”，贪婪已成了他们的共性。
