在太子大位确立的同年，即公元前67年，一位小人物路温舒走进了大汉的历史。
路温舒，巨鹿（今河北平乡）人，此前一直默默无闻，因为他只不过是廷尉一名低级的廷尉史，位卑言微，只是默默地尽着自己的本分。但也正因为身在廷尉任职，所以路温舒比普通人更为深刻地了解酷刑的可怕。他认为刘询是个仁君，遂大胆地向其上了一份奏章，暴露司法的黑暗，要求废除酷刑。路温舒指出，造成冤狱的原因在于刑讯逼供，屈打成招。当酷刑将人的尊严都碾碎踩烂之时，认罪是唯一的解脱，尽管他可能是清白的，什么也没做过。
刘询见到路温舒这一纸奏章，深感有理，遂下一道诏书，命全国法官办理案件时要宽大公平。路温舒的这份奏章很温和，很微弱，虽然没有收到任何效果，但却在很大程度上，反映了刘询为帝者的胸襟气度。
自霍氏一门被诛除以后，刘询放开手脚，大刀阔斧地对国家各项政策进行改革。因为刘询在早年，一直生活在民间，也时常受到吏治腐化所致的官员的欺压，因而及至登基，改革吏治便成为他心中最为迫切的愿望。
对于吏治改革的必要性，宣帝说道：“吏不廉平则治道衰。”所以，他即位后，宣布亲自过问政事，省去尚书这一中间环节，恢复了汉初丞相既有职位又有实权的体制。除此以外，宣帝还特别重视地方长吏的选拔和考核，并下大力气整饬吏治。为此，刘询建立了一套对官吏的考核与奖惩制度。他多次下诏对二千石（郡守级官吏）实行五日一听事制度；不定期派使者巡行郡国，对二千石官员的工作进行考察；根据考察结果，宣帝对其进行奖赏或者处罚。他颁布诏令说：“有功不赏，有罪不课，虽唐虞犹不能化天下。”因此，在宣帝当政的二十余年间，一大批因政绩突出的官员受到了奖励，或以玺书勉励，增秩赐金，或爵关内侯，升任九卿或三公。而对那些不称职或有罪的官吏，则严惩不贷。
随着这些措施的推行，一大批符合汉宣帝价值观的“良吏”便逐渐造就而成，服务于大汉朝的各项职能部门当中。
经过宣帝时期的改革，吏治呈现出一个特别重要的特点，即官吏“久任”制发展到较为完备的时期。