李世民除了重用魏征之外，还有其他二十三名，他把这二十四名大臣的画像挂在凌烟阁上，让世代供奉。
凌烟阁，也成了唐朝大臣渴望挂上画像的地方。
高士廉就是凌烟阁上的一名大臣。
他的出身很好，曾祖父高飞雀，在北魏时就是太尉。而他祖父高岳，在北齐官至侍中、左仆射、太尉、清河王。他的父亲高励，在北齐官至乐安王、尚书左仆射，在隋朝官至洮州刺史。
高士廉有这样的出身，再加上他年轻时，广泛涉猎文艺、史学，成为一个有学问的人。
一个人，有出身，再加上有学问，白痴都知道他腾飞起来，易如鸟飞，所以，隋朝的司隶大夫薛道衡、起居舍人崔祖浚都与高士廉结为忘年之交，其他公卿也跟他交往。
隋炀帝大业年间，高士廉被任命为治礼郎。
高士廉的妹妹嫁给了隋朝的右骁卫将军长孙晟，生了个儿子和女儿，儿子就是长孙无忌，至于女儿，就是后来的长孙皇后。
长孙晟去世后，高士廉把妹妹和外甥们接回家来，跟他们的情谊深挚。
高士廉是个非常有眼光的人，所以，他在李世民尚未显贵的时候，就把外甥女嫁给李世民为妻。