光宅元年九月（684年），徐敬业召集众人，为反武太后掌权在扬州起兵。
徐敬业本姓李（只是武太后把李姓改为徐姓），他是李勣的孙子，这个当时赞同立武太后为皇后的功臣的孙子却和爷爷是两种立场。据说徐敬业从小就顽劣不驯，一次出外打猎，遇上草原起火，他把随行的马杀死后，藏在马肚子里才幸免于难。别人都称赞他勇敢机智，父亲却摇头苦笑，他总认为徐敬业是徐家的祸害。
徐敬业本来前途不错，他继承了爷爷英国公的爵位，但却因犯贪污受贿罪被贬到扬州。于是，他纠集了一群下级官吏，并且找到一个貌似前废太子李贤的人，打着拥立中宗匡扶唐室旗号，在扬州举起了造反大旗。十几天内，就聚集了十多万军队，他自任扬州大都督。他还命唐初文坛四杰之一的骆宾王为他起草了一篇檄文号令天下人响应：伪临朝者武后，你们或者是唐朝世袭大官，或者与唐朝有着亲戚关系，有的是领兵大将，现在先帝的遗命还在耳边回响，怎能坐视国家危难而不尽忠献身？高宗皇帝的坟土还没干，中宗皇帝就被废掉，睿宗皇帝也遭到囚禁，我们决定起兵，要保卫大唐江山，坚信一定能取得胜利。
檄文写得非常好，令武太后非常欣赏。她也不顾檄文里对她的无礼和辱骂，认真细读，连连夸奖说：“好文才，这样有才华的人，为什么不予以重用？埋没了这样好的人才，使他的才能施展到邪路上去，这是宰相的过错。”
徐敬业的叛乱已闹得如火如荼了，举兵起义毕竟不是小事，武太后找第一宰相裴炎商量对策。谁知这个裴炎不但不给她出退兵之计，反倒说：“现在睿宗皇帝已经成年，只要太后还政于帝，徐敬业就没有出兵的借口了。”裴炎此时的真实想法，一是因为他的外甥在叛军中，表现出与己无关的样子；二是给叛军一点儿时间，待事态闹大后，他再见机行事，逼武则天交权。
裴炎这话说得太急了，不适时机。如果义军已占了半壁江山，这样说话也许有出奇制胜的效果。现在军队还没有出征，明显不是这么说话的时候。武太后心凉，裴炎与徐敬业同出一辙。裴炎的反对派监察御史崔察就趁机向武太后说裴炎大权在手，他请求太后归政是图谋不轨。于是，武太后下令把裴炎抓捕入狱。群臣大规模替裴炎求情，说他不会与叛乱有关不会谋反，率军对付突厥的左武卫大将军程务挺来密信也为裴炎申冤。程务挺此时已是军界威名远震的实力派人物，现在正手握重兵扼守西北。武太后紧张起来，庆幸早早地把程务挺从宫廷禁军中支了出去。不除掉裴炎则国无宁日，所以下定了杀裴炎的决心。还把为裴炎辩护的刘景先、胡元范一并下狱，并把反对裴炎的骞味道、李景湛晋升为宰相，官阶从五品上、六品直接晋升，刷新了大唐开国以来最低职官拜相的纪录。武太后破格提拔，不是因为他们有才智，而是出于清理需要。
就在新宰相上任后的第九天，裴炎被斩首。仕途上有降就有升，武太后惯用官场升降术来操纵政局。果然这一褒一贬之后，汹汹朝议有所平息。
她开始处理扬州之乱，偌大个朝廷找谁去平定这场叛乱呢？朝廷里的人几乎都和叛军有联系，程务挺的好友是徐敬业手下的左右长史唐之奇、杜求仁，右司马薛仲璋是裴炎的亲外甥。经过反复考虑，武太后选中了李唐宗室李孝逸为统帅。李孝逸是淮安王李神通之子，论辈分还是武太后的皇叔，她临朝称制后提拔李孝逸为左卫将军，他感激涕零，现在正好可以派他上场。同时，李孝逸是李唐宗室，可以在舆论上与徐敬业的“试看今日国家之内，究竟是谁家的天下”相对抗。
徐敬业既要北上防御李孝逸的大军，又要南下夺取金陵，匆忙成就帝业，分散了兵力，最后寡不敌众，叛乱很快被平息。徐敬业被部下所杀，弟弟徐敬真被流放到绣州。
叛乱危机解决后，通过这次外患表现出来的内忧令武太后心有余悸，于是，她开始清理不利于她称制的势力。那些曾试图营救过裴炎或为他求情的大臣，差不多都受到了株连。凤阁侍郎胡元范被流放到琼州死在那里，刘齐贤被贬为吉州长史，郭待举由礼部侍郎贬为岳州刺史，刘景先又再次降职为吉州员外长史。还有那个远处飞书的程务挺，第二年二月，他被处死在坚守了半生的战场上。
