他对那些官员们说：“大王任性放纵，我等听之任之，使大王迷途难返，这是为臣者最大的失职啊。”那些官员却冷眼对之，有的说：“大王有大王的安排，你危言耸听，就不怕大王先治你的罪吗？”和龚遂友善的人私下劝他说：“天下是刘氏的天下，为王者嬉戏无度，这也许就是他们应有的快乐吧。眼下人人心知肚明，之所以无人进谏，不过怕给自己招祸罢了。”龚遂见无人应和，想到：即使我一人也要对大王说真话，劝谏大王。

第二天，龚遂入见刘贺。此时群臣环绕其身，刘贺正玩着打斗的游戏，兴致正浓。龚遂眉头紧皱，他直上前去，一下跪在刘贺面前，放声便哭，声震厅堂。刘贺一惊，群臣亦面面相觑。

刘贺心中生气，厉声道：“你无故哭号，坏我兴致，你当真不怕死吗？”

龚遂抽泣说：“臣死不足惜，请容臣将话说完。大王亲近小人，不事正业，上坏朝纲，下毁清誉，如此下去，国之将亡了。您不可以不谨慎啊。臣闻‘道德不厚者，不可以使民’，请允许我选择一些通经术有道德的侍从郎官与您共处，平时起居多诵读诗书，熟悉礼仪，应该大有益处。臣不敢言忠，却未忘汉室的天恩，今出言冒犯大王，恳请大王纳谏。”

刘贺冷笑说：“你要陷我于不义，这也是忠臣所为？我暂不杀你，却也不能任你以下犯上。”于是令责打龚遂，有同情龚遂的几位大臣苦苦求情，龚遂才免受酷刑。

汉昭帝去世后，因其无子，昌邑王刘贺得以继承皇位。消息传来，王宫中一片欢腾，人人喜不自禁，惟有龚遂听之更加忧虑。他对家人说：“无德者窃居高位，这并不是件好事啊。天子之位尊崇无比，人人注意，似大王无德无能，荒唐放纵，纵是恃势而为，又岂能长久？最后终成祸事。”他的家人听了劝他干脆辞官不做，龚遂却摇头说：“为臣者虽知凶险，又怎能弃大王于不顾？大王身边尽是谄媚之人，有我在或可让大王有所收敛，消解此难。”

龚遂随刘贺入京，他不时苦劝刘贺，常常跪地不起。刘贺十分讨厌他，遂再不准他进见，龚遂便上书言事，仍不罢手。

昌邑王即位二十七天，终因淫乱放纵被废。昌邑群臣被杀死的有二百多人，他们的罪名便是陷王于不道。龚遂因诤谏不止，忠心可嘉，朝廷特许他免于一死。

汉宣帝即位后，过了很长时间，渤海郡及其相邻地区闹饥荒，盗贼四起，太守不能制止，事态已经相当严重。宣帝要选一个能胜任的人，丞相御史推荐说：“前昌邑王郎中令龚遂，德能兼备，可担当此任。”宣帝于是任命龚遂为渤海太守。

当时龚遂已七十多岁，宣帝召见龚遂问他说：“渤海郡一片荒乱，我十分担忧，你准备用什么方法平息那里的盗贼呢？”龚遂回答：“渤海郡地处偏远，没有沾沐圣上的恩德教化，那里的百姓为饥寒所迫，地方官又不知加以救济，您的子民一时暂为不义之事，做了盗贼。我想用安抚的办法。”宣帝听了龚遂的回答很高兴，说：“选贤良之臣前去，本来就是想对他们进行安抚。”特别赐给龚遂黄金，还为他增派了驿车。

龚遂到了渤海郡的地界后，郡府的官吏们听说新上任的太守已到任了，便派兵迎接，而龚遂让他们都回去，只身赴任，并命令所属的县把专管追捕盗贼的官吏都撤除，那些手拿农具的人都是良民，官吏不得对他们问罪，携带兵器的人，才属于盗贼，盗贼于是停止了活动。

渤海郡中还有一些结伙抢劫的人，听到龚遂的命令后，便自动解散，放下了手里的兵器而拿起了锄头等农具。这样偷盗抢劫之事便都平息了，老百姓开始安居乐业。龚遂于是打开粮仓，把粮食借给贫民，还选任了一些好官吏对百姓实施安抚管理。

龚遂发现当地的民俗好追求奢侈的生活，不重视耕种田地。他便以身作则，追求俭朴的生活，鼓励百姓务农，命令农家每人都种一株榆树、一百根茭白、五十棵葱、一畦韭菜，每家养两头母猪、五只鸡。百姓有持刀带剑的，龚遂就劝喻说：“干吗不把剑卖了去买头牛？”经过几年治理，渤海郡内，家家有积蓄，官民都富裕起来，社会安定，百姓也不再打官司，龚遂名声大振。

于是，宣帝招他还朝，当地的百姓们感激龚遂，大家都依依不舍。宣帝因为龚遂年老不能任公卿，于是拜为水衡都尉，把他留在身边，一直都非常信任他。

正是因为龚遂注重品德修养，所以在任何时候能够明辨是非，导人以正，推行德政，使盗变良民，可见德乃人之本，政之根，国之基！人无德不可立于世，如果上至君王大臣，下至黎民百姓，人人重德向善，自束其心，那么必然会出现民富国强、社会繁荣、天下太平的盛世景象。