吴隐之二十岁时就有清正的操守，当时家中贫困，虽然每天粗茶淡饭，但他从来不吃不该自己得到的粮食，虽然家中没有一石的余粮，但他从来不取不义之财。

吴隐之侍奉父母非常孝顺谨慎，以至于连仙鹤和大雁都被感动，母亲去世后，应该哭泣时有仙鹤鸣叫，祭祀时有群雁环聚。因为敬重钦佩他的德行，太常韩康伯将其任为辅国功曹。后来他的哥哥吴坦之因事要受到株连，吴隐之到大司马桓温那里乞求用自己的性命来代替哥哥受过。桓温受到感动，将他哥哥释放，对吴隐之倍加重用，不久升任其为晋陵太守。

尚书令谢石曾经请吴隐之做卫将军主簿。吴隐之要嫁女儿时，谢石知道他贫寒朴素，嫁女儿一定会草率从事陪嫁很少，于是命令挪用厨帐帮助吴隐之为女儿操办婚事。谢石的使者到吴隐之家后，发现婢女正牵了狗要出去卖，除此之外没有筹办一点陪嫁。

吴隐之后来被召入朝廷，历任中书侍郎、国子博士、散骑常侍、著作郎、御史中丞等职，虽然身居高位，但他始终保持清廉俭朴的操守。家中冬天没有被盖，有一次洗了衣服，只有身披棉絮以御寒，日常依旧辛苦劳作，同贫寒百姓没什么两样。在郡中做官中，其妻子还要自己去背柴草。而他将自己所得的俸禄全部分给了需要救济的亲戚族人。

当时广州岭南一带依山靠海，有很多奇珍异宝，一箱珍宝就可以供几代人享乐，但那里瘴气泛滥，百姓困苦不堪，没人愿意去做官，派去的官吏也大多只顾自己贪污敛财，不管百姓死活。朝廷想革除岭南的弊病，于是在隆安年间，将吴隐之派往广州，任其为龙骧将军、广州刺史、兼平越中郎将。

离广州二十里远的地方叫石门，这里有泉水叫贪泉，喝后会让人贪得无厌。吴隐之到广州后，对他的亲人说：“不见泉水也会有贪念，关键在于能够保持自己的心志不乱，到了这里会使人丧失清白的原因我知道了。”于是来到贪泉边，舀起水来喝了下去，并赋诗道：“古人云此水，一歃怀千金，试使夷齐饮，终当不易心”。意思是，人们说喝了这里的水会让人贪图金银财宝，但我想假如让伯夷和叔齐这样的高洁之士喝了，始终也不会改变他们的操守的。”吴隐之借此也是表明了自己坚守清白的决心。

吴隐之在广州更加砥砺自己清正的节操。日常吃的是青菜和干鱼，幔帐、器用和服装都让外库代为办理。有人说他这样是不是太做作了，可他始终不为所动。有手下人给他送鱼时，总是剔除骨刺只有鱼肉，吴隐之觉察到他的用意后，责罚并开除了他。

吴隐之在任期间，广州改观很大，政治清明，百姓安居乐业。元兴初年，皇帝下诏说：“孝顺的行为笃行于家门之内，清正的节操砥砺于风霜之中，这实在是不容易做到的，而又是君子最美好的德行。龙骧将军、广州刺史吴隐之孝顺友悌超过常人，俸禄分给九族，自己却清廉俭朴，节俭到以干鱼为食。他身处物欲之地，而能不改变操守，享有镂金之富，而家人却不更换服饰。他革除奢侈务求节俭，令南域改观，朕嘉奖他，可以进封称号为前将军，赏钱五十万，粮食一千斛。”

据说吴隐之在从广州离任回朝时，乘船途经广州西北方的北江，原本平静的江面突然狂风大浪骤起，船岌岌可危，吴隐之自问自己在此地的所作所为无愧于天地，何以招致天谴呢？于是再三追问，得知妻子刘氏要了他人赠送的一块沉香，于是立即将沉香投入江中，结果江面立时风平浪静。投沉香的地方后来耸起一座沙丘，被人称之为“沉香浦”或“沉香沙”，现在仍可以看到。

史书中赞曰：“吴隐之酌水以励精，晋代良能，此焉为最。”称赞他是晋朝第一良吏。唐朝的王勃在名篇《滕王阁诗序》中赞叹道“酌贪泉而觉爽，处涸辙以犹欢”，意为像吴隐之这样清正廉洁的人，即使喝了贪泉之水也不会变得贪浊；后人为了纪念吴隐之，在当地立了一块“贪泉碑”。明朝时还建有吴隐之祠，门上有匾“清风万古”对联曰：“清拟夷齐，百世闻风顽懦起；绩留岭海，一诗厉操士民思。”

义熙八年，吴隐之告老请求退休，皇帝封赏优厚下诏准许，授其为光禄大夫、加金章紫绶，赐钱十万、米三百斛。去世后，追赠其为左光禄大夫，加散骑常侍。

吴隐之一生坚守清正不贪、节俭朴素的操守，是位有德之人，他屡次受到朝廷褒奖，常常受到皇帝优厚的封赐和显贵的赠封，当时的清正廉洁之士都以他为荣，他的两个儿子及孙子也都继承了他的遗风，很有德行。他的德行足可以垂范后世，不论是做官还是立身做人都需要这些美德。