张释之任谒者仆射时,有一次跟随汉文帝出行,在参观虎圈时,皇上向上林尉询问登记各种禽兽册子的情况,提了十多个问题,结果上林尉左右瞧看,都回答不出来。这时,看管虎圈的啬夫从旁边上来代替上林尉回答问题,回答的很详细和流利,他想以此显示自己的口才。
汉文帝说:“官吏不应该这样吗?上林尉根本不称职!”于是让张释之宣布啬夫为上林令,张释之上前说:“陛下认为绛侯周勃是什么样的人呢?”皇上说:“是忠厚有德行的人。”又问:“东阳侯张相如是什么样的人呢?”皇上说:“也是忠厚有德行的人。”张释之说:“像绛侯、东阳侯被称为忠厚有德行,可这两个人谈论事情时好象连话都说不出来,难道让人们去学这个啬夫喋喋不休的伶牙俐齿吗?况且秦朝因为任用那些舞文弄墨的书吏,书吏们争着拿办事急快和苛刻来互比高低,然而那样做的弊病只是照章行事罢了,一点也没有仁慈的实情。因为这个皇上听不到自己的过失,日益衰败,传至二世,天下便土崩瓦解了。如今陛下因啬夫伶牙俐齿就越级提拔他,我担心士人会随风附和,争相浮夸而不讲求实际。况且下面仿效上面很快,陛下做什么事不可以不谨慎啊!”皇上说:“好!”便没有再提拔那个嗇夫。
张释之升任公车令。有一次,太子和梁王同乘一辆车入朝,在经过司马门时没有下车,张释之发现了赶紧追上去制止太子和梁王,不让他们进殿门,并且上奏了两人的不敬之罪。薄太后知道后,文帝摘下帽子前去赔罪,自责自己教导儿子不严,薄太后这才赦免了太子和梁王两人,允许他们进宫。汉文帝通过这件事,知道了张释之持法公正无私,与众不同,所以升任他为中大夫。
不久,张释之官至中郎将,接着拜为廷尉。有一天,皇上通过中渭桥,有一个人突然从桥下跑出来,使驾车的马受了惊,于是皇上令骑士将那人抓捕,交给廷尉治罪。张释之审问了那人,那人说自己听到清道戒严,急忙躲到了桥下,过了很久,以为皇上的车马和仪仗已经过去了,便从桥下面出来,没想到正撞上皇上的车马和仪仗,所以转身就跑。张释之将此事如实向皇上禀报,并说:“此人违反了清道戒严的号令,应处以罚金。”
皇上大怒道:“这个人惊了我的马,幸亏我的马脾性温和,假若是别的马,不早就摔伤我了吗?可廷尉却仅要处以罚金!”张释之解释说:“天子与天下人一样都要共同遵守法律。如今法律是这样规定的却要加重处罚,这样法律就不能取信于民了。如今此事交付给廷尉,而廷尉是天下公平的象征,一旦有偏,天下使用法律时都会任意或轻或重,老百姓往哪儿安放他们的手脚?望陛下明察。”皇上考虑了一会儿,说:“还是廷尉说的对。”
还有一次,有人因为偷了高祖庙内神座前的玉环而被抓,文帝大怒,将这人交给廷尉治罪。张释之依照律法条文,奏请判处这人斩首。皇上勃然大怒,认为应该将这人灭九族。张释之据理力争,认为应以逆顺轻重的程度作为依据。皇上同薄太后商量后同意了张释之的判决。
当时,朝廷中贤德的大臣看到张释之如此正直公正,纷纷同他结交为亲密朋友,张释之由此受到天下人的称颂,名扬千古。