原来徐世勣曾是魏公李密手下的左武侯大将军。武德二年,魏公李密因兵败王世充而归附于大唐,徐世勣仍驻守在旧地。
有一天,他对长史郭孝恪说:“现在魏公已经归附大唐,这里的人和土地都归魏公所有,我如果自己上表献给朝廷,这就是利用主上的失败,来为自己邀功,以求换取富贵,我视此为耻辱。现在应该把州县的所有土地和军人户口等整理登记造册,然后全部呈交给魏公,让魏公自己献给朝廷,这样就是魏公的功劳了。”
决定后,徐世勣便派出使者前去给李密送信。使者到后,唐高祖李渊听说没有要上表的奏章,反而只有要呈送给李密的信件,因此感到非常奇怪,使者无奈只有如实相告,将徐世勣的真实想法上奏李渊。
李渊听后,高兴的说道:“徐世勣感念恩德推让功劳,真是位忠纯厚道的臣子啊!”于是授徐世勣为黎阳总管,莱国公,不久又加右武侯大将军,封曹国公,赐姓李氏。