公元711年，张说进封同中书门下平章事，成为宰相，并监修国史。
这时，太平公主交结朝臣，干预朝政，图谋废掉太子。
唐睿宗对侍臣道：“有术士上言，五天之内将会有急兵入宫，你们为我做好防备。”
左右面面相觑，不知如何回答。
张说则直言不讳道：“这是有小人想离间 东宫，陛下如果让太子监国，定下君臣名份，小人自然胆怯，流言便会平息。”
唐睿宗大喜，当日便命李隆基监国。
公元712年，太平公主引荐萧至忠、崔湜为宰相。
张说因不肯阿附太平公主，被罢去相位，贬为尚书左丞、东都留守。
张说知道太平公主等人心怀阴谋，于是派使者献给李隆基一把佩刀，暗示他要果断行事，以铲除太平公主。
第二年，李隆基诛杀太平公主，张说被征拜为中书令，封燕国公。
之后，姚崇获得李隆基的信任，而张说与姚崇关系不和睦，因而被贬为岳州刺史。
张说在失去相位之后，没有怨言，没有就此沉沦，而是勤勤恳恳地工作，等待重新起来的机会。
公元720年，张说的机会来了！