自下诏，叙说刘伯温征伐之功，召他赴京，赏赐甚厚，追赠刘伯温的祖父、父亲为永嘉郡公，并多次要给刘伯温进爵。
刘伯温都固辞不受。
重新回到朝廷的刘伯温，知道李善长的不可得罪，当下开始包容李善长。
朱元璋因事要责罚丞相李善长，刘伯温劝说道：“他虽有过失，但功劳很大，威望颇高，能调和诸将。”
朱元璋觉得奇怪，说：“他三番两次想要加害于你，你还设身处地为他着想？我想改任你为丞相。”
刘伯温叩首说道：“这怎么行呢？更换丞相如同更换梁柱，必须用粗壮结实的大木，如用细木，房屋就会立即倒坍。”
后来，李善长辞官归居，太祖想任命杨宪为丞相，杨宪平日待刘伯温很好，可刘伯温仍极力反对，说：“杨宪具备当丞相的才能，却没有做丞相的气量。为相之人，须保持像水一样平静的心情，将义理作为权衡事情的标准，而不能搀杂自己的主观意见，杨宪就做不到。”
朱元璋又问汪广洋如何，刘伯温回答：“他的气量比杨宪更狭窄。”
朱元璋接着问胡惟庸，刘伯温又回答道：“丞相好比驾车的马，我担心他会将马车弄翻。”
朱元璋于