韦玄成出门时，遇到认识的人步行，他总是让自己的侍从仆役下车，然后载着别人送到想要去的地方，这是经常的事。韦玄成对待人非常有礼恭敬，那些贫贱的人，韦玄成对他们更加礼敬。因为他礼贤下士、待人恭敬，所以美名远扬。

韦玄成的哥哥韦弘起初任太常丞，因为事务繁多，犯了不少罪过，他的父亲韦贤怕这个韦家将来的继承人因犯罪被贬，所以命令他辞官。但韦弘心怀谦让，有意将继承人让给弟弟韦玄成，所以不肯辞官。

父亲韦贤病重时，韦弘终于因为做错事而被送入了监狱。韦贤抱憾去世，生前并没有指定谁作为韦家的继承人，韦贤的门生和同族人便共同商议，假托是韦贤的遗命，立当时任大河郡都尉的韦玄成作为韦家的继承人。

韦玄成在官位上听到噩耗，深知立他为继承人这不是父亲一贯的愿望，于是便假装犯了痴狂病不接受。朝廷又征召他到长安，让他承袭父亲的爵位，韦玄成也假托病狂不应诏命。

朝廷命丞相、御史调查事情原因，因为韦玄成的道德品行一直都被大家所称道，人们都知道他这是装病，想将爵位让给哥哥韦弘。汉宣帝知道后，非常欣赏他的节操，派人将他叫来，让他做了河南太守，又让他的哥哥弘做了太山郡都尉，后来迁为东海太守。

汉元帝即位后，拜韦玄成为太子太傅，后来做到了御史大夫，永光年间，官至丞相，又在原来的封国被封侯，荣耀当世。他们的子孙也很兴旺，家族中做到二千石的官位的就有十多人。

为了一己之私，父子反目、兄弟相残、妻离子散的大有人在，而韦家兄弟面对家业和爵位，能够互相谦让，这种美德着实令人感叹。其实在个人利益面前，如果能够互相都多一点谦让，那么怨恨和嫌隙都会避免很多，这是家族和睦、家业兴隆绵长的“绝招”，是谦谦君子应具备的美德。