此后，北方陷于五胡十六国分裂动荡的局面，“传国玺”几经辗转，又落人东晋征西将军谢尚之手，谢尚把它用三百精骑连夜送至首都建康，献给晋穆帝，传国玺重归晋朝司马家。公元420年，刘裕废东晋恭帝自立为帝，国号宋，史称刘宋；在南朝，传国玺历经了宋，齐，梁，陈的更迭。
南朝梁武帝时，降将侯景反叛，攻破官城，劫得“传国玺”，不久侯景败死，他的部将侯子鉴将玉玺投到了栖霞寺的井中，有一个寺僧将玉玺捞出收存，后来他的弟子将玉玺献给了陈武帝。
杨坚建立隋朝后，公元589年，灭陈统一全国，传国玉玺入了隋宫。大业十四年（公元618）3月，隋炀帝杨广被杀于江都，隋亡。萧后携太子元德携传国玺遁入漠北突厥。
唐初，太宗李世民因无传国玉玺，于是刻数方“受命宝”、“定命宝”等玉“玺”，聊以自慰。公元630年，李靖率军讨伐突厥，同年，萧后与元德太子背突厥而返归中原，传国玺归于唐朝。唐末，天下大乱，群雄四起。朱温篡唐后，“传国玺”又遭厄运。
后唐废帝被契丹击败，登楼自焚，玉玺也遭焚烧，下落不明。郭威建后周后，遍寻传国玺不着，无奈镌“皇帝神宝”等印玺两方，一直传至北宋