于谦当官后，非常关心民生疾苦。在任两省巡抚期间，被百姓们拥戴之如同父母，尊称为“于龙图”，二省流传着赞颂他的歌谣，赞曰“天遣恩官拯二方”。

当时地方官员进京，都要携带重金或土特产以用来攀求权贵。于谦每次进京，却总是两手空空，从不送礼行贿。因为蘑菇和线香是河南当地的土特产，所以有人劝他即使不送金银珠宝，也应该送一些土特产。于谦举起自己的双袖，笑说自己带去的只有清风，并且赋诗：“手帕蘑菇与线香，本资民用反为殃。清风两袖朝天去，免得闾阎话短长。”“闾阎”是指百姓居住的巷里，意为免得百姓们说长道短。后人用来赞美清廉品行的“两袖清风”一词正是源于此。

于谦虽然身居要职，但力奉俭约，家中的房屋简陋得只能遮蔽风雨，除了封存着的皇帝赏赐的蟒袍、剑器等物品外，没有一件贵重东西。皇帝在西华门附近赐他一所大宅第，他说：“国家多难，臣子怎敢贪图享受呢？”坚辞不受。

于谦虽立有大功，但却从来不谈自己的功劳。在一次战事中取得很大胜利，武将石亨的功劳次于于谦，因此被封为世侯，他有些内愧，于是上书推荐于谦的儿子于冕。皇帝诏于冕到京的诏书已下，而于冕辞谢不来。于谦说：“国家多事，臣子义不得顾私恩。”坚决表示：“决不敢以子滥功。”

于谦以历史上的忠臣义士自励，不屈服于权势，一生刚正不阿。曾赋诗《北风吹》和《咏石灰》以明志。字里行间透露出的是凛然正气，不畏艰难险阻坚持原则的无畏精神，这正是于谦一生的做人准则。

《北风吹》

北风吹，吹我庭前柏树枝。
树坚不怕风吹动，节操棱棱还自持，冰霜历尽心不移。
况复阳和景渐宜，闲花野草尚葳蕤。
风吹柏枝将何为？北风吹，能几时！

《咏石灰》

千锤万凿出深山，
烈火焚身若等闲。
粉身碎骨浑不怕，
要留清白在人间。

于谦后因被奸臣陷害而被处死。死后被葬于西湖三台山麓，和岳飞墓遥相对应。清代袁枚诗云：“江山也要伟人扶，神入丹青即画图。赖有岳于双少保，人间始觉重西湖。”忠魂义骨，千古传颂。