贞观三年,公元629年，李世民授予房玄龄太子少师官衔。
他坚决推辞，只任代理太子詹事，兼任礼部尚书。
这一事，充分显示了房玄龄的懂得进退。
也正是如此，李世民更加的看重他。
第二年，就让他接替长孙无忌任尚书左仆射，改封爵号魏国公，同时主持编撰本朝历史。
房玄龄统管朝廷各部门政务以后，更是忠于职守，从不懈怠，尽心竭力，不愿出现一点失误。
他听到别人的优点长处，就像是自己有那优点长处一样高兴。他熟悉百官的情况，多讲优点来鼓励他们，研究制订法律条例，立意是宽容公正。取用人才不求全责备，不用自己的长处苛求别人，按照才干安排职务，出身低微也无妨碍。
公众舆论赞扬他是贤相。
他有时出了差错被皇上批评，就一连几天在理事的朝堂里叩头请罪，惶恐不安，好像无地自容。
贞观九年，因维护李渊的陵墓制度有功，加赐开府仪同三司名号。
贞观十一年，跟司空长孙无忌等十四人一起被封为世袭刺史，按照这个身份任宋州刺史，改封爵号梁国公。
贞观十三年，提升为太子少师