杜如晦更加尽心尽力地辅佐李世民了。
可惜的是，他没有房玄龄那么长的寿命，四十来岁就开始病了。
他因病辞职，李世民诏令给他原俸禄在家养病，派来给他治病、探望的人络绎不绝。
杜如晦病危时，李世民诏令皇太子前去问候，并亲自到他家。
杜如晦终究没能捱过去，四十六岁就去世了。
李世民对于杜如晦的死，极其悲痛，追赠他为开府仪同三司衔。安葬时，加司空衔，谥号“成”，并亲笔手诏虞世南撰文刻于石碑，以便记载君主痛悼臣子之意。
李世民在杜如晦死后，对他仍思念不已。一次吃瓜，瓜味甜美，便留下一半祭奠杜如晦。
他赐给房玄龄黄银带，说：“如晦与您一同辅佐我，而今我只见公一人。”说罢，泫然泪下，说：“相传鬼神畏惧黄银。”当下另取黄银带，让房玄龄送去杜家。
后来，李世民忽然梦见杜如晦像平素一样，次日讲给房玄龄听，派他带着皇帝的膳食前往祭奠。
到杜如晦一周年的丧祭日，太宗派宫中女官慰问杜如晦的妻室子女，封地、官宅、官衔、补助亦不取消，皇帝对他家的恩惠礼遇丝毫不减。后来诏令功臣可以世袭，又追赠他