长安四年(704)秋,武则天病重,她知道自己可能支撑不了多久,于是重新充实宰相班子,以期能够稳定局面。这时候,原宰相姚崇被二张排挤暂时离开了政治中枢,临行前,他向武则天推荐张柬之为相。
张柬之,襄阳人,进士出身,但是长期仕途不顺。永昌元年(689),武则天征召贤良时,他自荐参加考试,以65岁高龄考取了第一名,被授予监察御史之职。而狄仁杰在世时,就对张柬之的才干赞许有加,认为他是国家栋梁之才,是宰相的不二人选,并多次向武则天推荐张柬之。其实,狄仁杰虽为武则天重用,但是他心向李唐,为武则天效命也是为日后李氏翻身做好准备工作。所以,他在为官期间,留心提拔那些忠于李唐、才能出色的人才,张柬之就是其中之一。由于两个德高望重的宰相都推荐张柬之,武则天自然认为此人一定具备宰相的素质。不久,八十岁的张柬之成为大周朝的最后一任宰相。
而此时武则天身体状况并没有大的好转,只是在苦苦支撑。在这种情况下,各方势力都在争取做好执掌国家大权的准备。张柬之心怀复唐大事,立即利用手中的权力对中枢进行了调整。他首先从军权下手。当时唐朝的禁军分为南北两衙,南衙相当于京城巡警,北衙负责皇城警卫,分别由六位将军统领。张柬之先找到右羽林大将军(属于北衙)李多祚,他是外族的名将,靺鞨族的酋长,掌握禁军已经二十多年,是禁军中威望较高的将领。张柬之从李多祚的念唐情结下手,提起当年高宗李治将其提拔为高级将领的事情,希望他能帮助自己实现匡复李氏的愿望。李多祚本来就对唐朝深有感情,听张柬之这样说,立即表态支持。两人还当即对天盟誓。做完李多祚的工作,张柬之立即对禁军将领进行了调整,将之前已经约好起事的桓彦范、敬晖、李湛等人安排到禁军,掌握军权,随时听候差遣。而禁军的变动,也引起了二张的注意。为了掩人耳目,张柬之故意将武氏家族的武攸宜也安排到禁军,使二张放心。此招果然蒙蔽了二张,二张没有政治经验,自认为只要是武则天还活着,自己就能无事,对于张柬之的行为也就不再干预。而后张柬之又将信得过的人纷纷调任重要岗位,牢牢抓住国家权力,为日后推翻女皇统治打下了基础。
而在张柬之忙得热火朝天的时候,李显那边却是鸦雀无声。对于李显来说,只要母亲存在,他的惧母情结就不会消失。但李显对于二张也是敢怒不敢言。在长安元年(701)九月,李旦的长子李重润和妹妹永泰郡主及郡主的丈夫魏王武延基(武承嗣的儿子)在一起议论张易之擅权。结果有人向张易之告密,张易之将此事告诉了武则天。武则天大为恼火,立即让李显处置这三个人。李显知道母亲还是对自己不放心,只好让三人自缢而死。这样李家和武家都与二张结下了梁子,只是有武则天尚在不好发作罢了。武氏宗族也因二张霸权,心存不满,对待反对二张的事情作壁上观。太平公主那边上面已经说了,也是想除掉二张。这几股势力拧在一起,二张的末日真的不远了。
二张这时候也感到了自己的处境岌岌可危。二张心里很清楚,这些年来,把能得罪的人都得罪了,唯一的靠山就是武则天。而现在武则天久病在床,对局势的掌控能力已经大大削弱了,只有再找些可靠的人才能应对不测。不过毕竟他们的根基太浅,对付长期盘踞朝廷的各方势力真是微不足道。据说,张易之的新府邸建好后,就有鬼在墙上写字:“能得几时?”多次抹去无效,后写上了“一日即足”后,就消失没有了。虽然这事不太可信,但也从一方面暗示了二张已经走到了穷途末路。