就在武则天意气风发地搞着当皇帝的准备工作时，有人造反了，而且是打着废帝李显的旗号。李世的孙子徐敬业（李世本姓徐，后赐姓李）起兵讨伐武则天，名义是捍卫李氏王朝。说起来也比较可笑，李氏子孙们没有一个出头和武则天掰掰手腕，反而是一个被赐姓为李的外人非要替李家出气。
当时徐敬业振臂一挥的气势确实把武则天吓得不轻，她有点坐不安稳了。还有一位著名的诗人参加了这次叛乱，这人便是骆宾王，就是写《咏鹅》诗的那位。骆宾王不愧为才子，很快就替徐敬业写了一篇著名的《讨武氏檄》，也可以被认为是一封宣战书，或者是集结号，号召想和武则天较量的天下人，都来找徐敬业报到。
这篇《讨武氏檄》一共不到500字，主要阐述了两方面的事情。一是历数武则天的滔天罪行，比如秽乱春宫、狐媚惑主、杀姐屠兄等；二是赞扬徐敬业的英明神武，革命必定成功。全篇采用骈文，辞藻华丽，对仗工整，慷慨激昂，挥洒自如。据说，武则天曾仔细读过这篇檄文，看到“狐媚偏能惑主”，还只是微笑，但读到“一抔之土未干，六尺之孤何托”一句，就问左右“这是谁写的？”有人答是骆宾王，武则天于是感慨地说：“有这样的人才不用，是宰相的过失啊！”
但是徐敬业、骆宾王等人大部分都是无官职的人，而且有些志大才疏，甚至都是些问题官员，写个骂人的“壮胆帖”还行，但造反是要“真枪真刀”的，可不是耍点嘴皮子就行的。看着徐敬业这边一扯旗，呼啦来了十几万拥护者，数量挺多，但是根本就没接受过训练，战斗力基本上等于童子军。不过不管怎么样，至少有这么些爱掺和的人助威，怎么也会有些成绩。开始徐敬业的部队倒是真的攻陷了一些城池，可是随着战局的发展，等朝廷的军队回过神儿来，徐敬业的军队也就没什么好日子过了。
别看徐敬业的爷爷李世是个军事家，徐敬业等人的谋略却令人不敢恭维。如果顺势先进攻洛阳，打武则天一个措手不及，兴许还有胜利的希望。结果徐敬业从心里就不想和武则天正面过招，非要窝在扬州等着武则天来收拾自己。为了能名正言顺地整倒武则天，徐敬业一方面打起“匡复中宗（李显）”的旗号，一方面又从民间找来一个长相酷似已故太子李贤的人，声称李贤没死，已来扬州入伙。结果弄巧成拙，本来《讨武氏檄》里列数武则天的罪状就有杀子一条，这下又活了，这不是自相矛盾吗？本来让《讨武氏檄》激起的民愤，被自己人一弄，成了白写。
那边武则天看到叛乱有些声势，不敢怠慢，立即与中书令裴炎商议。裴炎提议让武则天归政于李旦，徐敬业就不会再闹事。武则天一听，看来身边的人都嫌自己霸着权力啊，那我也霸着，看不顺眼的人都一边凉快去。这时骆宾王编了首民谣，词为：“一片火，两片火。绯衣小儿当殿坐。”这个民谣不用多想，就是说裴炎要做天下主人。很快这首民谣传到了武则天的耳朵里，正愁没机会整治裴炎呢，这下可有了。而最关键的是，叛军中的重要人物薛仲璋是裴炎的外甥，而且裴炎还极力反对武则天对李氏王族下毒手。从这几个方面看来，武则天真的怀疑裴炎是不是和自己站在一条战壕里，那就只有投入大牢审个清楚。关在大牢里的裴炎还是一副满不在乎的样子，有人暗示裴炎向武则天低头，可能逃过一劫。但是裴炎不为所动，已经有了必死之心。果不出所料，武则天新账旧账一起算，把裴炎杀了，朝野上下因此人心惶惶。
而武则天也明白，指望着这么个杀法，肯定是无法将叛乱平定，只有拿出军事这个硬拳头才行。而让人欷歔的是，武则天平定叛乱竟然还是用的李氏宗族。武则天选择了李孝逸。李孝逸是李渊的兄弟李神通的侄子。武则天这样做意图很明显，不是要匡复李氏吗？让李家的人去平乱，说明叛乱就是叛乱，和李家的江山无关。而武则天还是有点儿不放心，生怕李孝逸突然临阵倒戈一击，因此又将百济人黑齿常之调到江东，令其率兵从另一个方向进攻扬州。李孝逸带领30万大军对徐敬业开始了进攻。
其实这次叛乱可以说从开始就注定是失败的，就扬州区区一地怎能与整个中国相对抗，何况徐敬业等人确实能力有限。起兵不到两个月，李孝逸就已经打到了扬州。徐敬业眼看着就要失败了，准备脚底抹油开溜。可是事情不像他想的那么简单，他的手下一看大事不好，立马把徐敬业杀了，将首级送到了李孝逸面前。扬州之乱就这样雷声大、雨点小的结束了。武则天也深深地舒了口气。
在平乱的同时，武则天更担忧的是李显。叛乱就是因为自己废黜了李显而引发的，所以李显的表现就成为武则天是否让他留在世上的关键。武则天派出了武三思去房州“看望”李显，看一下他的反应。这时候的李显已经对母亲惧怕到了极点，只要是听说京城来人，就吓得想上吊自杀。而韦氏却还算是镇定自若，劝李显静观其变。武三思到了房州，一看李显那个害怕的样子知道就是给他三个胆儿也不敢造反。据说，心机很重的韦氏借着这个机会，利用色相把武三思争取了过来。她知道武三思的话在武则天那里还是有很大作用的，所以让他多说些好话，自己和李显可能还能过上几天安稳生活，甚至脱离苦海。而武三思也没有让韦氏失望，回去一个劲儿地说李显忠于武则天，没有非分之想。这下武则天的心真的放下了。
