太宗征高句丽时，他留守京师。二十二年病逝，玄龄公去世后谥号“文昭”，配享太宗庙廷，陪葬昭陵。贞观前期，他协助李世民经营四方，削平群雄，夺取皇位。李世民称赞他有“筹谋帷幄，定社稷之功”。
贞观中期，他辅佐太宗，总领百司，掌政务达20年；参与制定典章制度，主持律令、格敕的修订，又曾与魏征同修唐礼；调整政府机构，省并中央官员；善于用人，不求备取人，也不问贵贱，随材授任；恪守职责，不自居功。后世以他和杜如晦为良相的典范，合称“房谋杜断”。
房玄龄死后。长子房遗直嗣爵，高宗初年做到礼部尚书的大官。次子房遗爱在太宗活着的时候，由于老婆高阳公主特受宠爱，他作驸马时与皇室别的女婿也大不相同，礼赐恩宠异于诸婿。
高阳公主骄恣成性。高宗继位后，她想自己老公承袭房遗直的公爵爵位，就诬告房遗直对自己无礼。高宗还真当回事，让舅舅长孙无忌审理此案，这一下子不得了，竟审出高阳公主和房遗爱两人参与了吴王李恪谋反的事情。
可惜房玄龄一世忠贞，家族终为逆子恶妇所累，公主赐自尽，房遗爱伏诛，诸子都作为刑徒流配岭南。房遗直因父亲之功，总算保得不死，除名为庶人。