刘伯温博通经史,无书不读,尤其精于天文。朱元璋攻下金华,闻知刘伯温的才学,不惜钱财予以招聘。起初,刘伯温坚决不答应,后经总制孙炎两次写信邀请,刘伯温才决定出山。刘伯温到了应天,向朱元璋陈时务十八策。而后刘伯温凭其才学和神机妙算辅佐朱元璋平定天下,开创了大明王朝。
朱元璋即位后,刘伯温上奏制定军卫法,整肃纲纪,凡有过错的宿卫、宦官等,一律依法惩治,因此人人畏惧刘伯温。中书省都事李彬因贪图私利,纵容手下而被治罪。丞相李善长一向私宠李彬,故请求从轻发落,刘伯温不听,在祈雨时,将李彬杀死,从此刘伯温和李善长开始有隙。后来,太祖因事要责罚丞相李善长,刘伯温劝说道:“他虽有过,但功劳很大,威望颇高,能调和诸将。”太祖说:“他三番五次想要加害于你,你还设身处地为他着想?我想改任你为丞相。”刘伯温叩首道:“这怎么能行呢?更换丞相如同更换梁柱,必须用粗壮结实的大木,如用细木,房屋立即就会倒塌。”
刘伯温相貌堂堂,慷慨而有大节。每当谈论天下大事时便声形于色。太祖知道他非常忠诚,故对他委以重任。每次召见刘伯温,都要避开他人进入内室,单独与他长时间密谈。刘伯温也是知无不言。每到紧急危难的关头,他总是勇气奋发,计策立定,人莫能测。闲暇之时,便敷陈为王之道。而太祖每次都是洗耳恭听,常常称刘伯温为老先生,并说:“你就是我的张子房啊。”又说:“老先生多次以孔子之言来劝导我。”
刘伯温性情刚烈,嫉恶如仇,隐居山中后,只是饮酒下棋,从不提自己的功劳。