胡太后重掌大权以后，更加放肆。她重用佞悻小人，跋扈朝廷；广树面首男宠，宣淫宫掖，肆意胡为。但此时孝明帝也长大了，他容忍不了胡太后的种种恶劣行径，就写密信给尔朱荣，让他进京，准备用武力胁迫胡太后退位。但是，没想到胡太后先发制人，将孝明帝毒死了。当时明帝没有儿子，胡太后就宣布皇女继承帝位，大赦天下。但不久又觉得不妥，改立三岁的宗室元钊为帝。胡太后的这种昏迷错乱，引起朝野的极大骚乱。
这次政变为尔朱荣提供了绝好的机会。他得到孝明帝暴死的消息，便与他的左右手元天穆等商议，准备进军洛阳。他宣称自己要“匡扶朝廷”，铲除奸佞郑俨、徐纥，为孝明帝报仇。为了使自己的行动更加名正言顺，他与元天穆谋划另立新帝。他在上书指控胡太后的同时，派侄子尔朱天光等入京，与堂弟尔朱世隆商议废立之事。他们最终决定立长乐王元子攸为帝（孝庄帝），跟胡太后及幼帝对抗。尔朱天光拜见元子攸，表达了尔朱荣的忠心，元子攸应允。这样，尔朱荣就从晋阳起兵，进军洛阳，时值公元528年的春天。
军队进展顺利，不久抵达河内（今河南沁阳）。尔朱荣派人到洛阳，把长乐王元子攸秘密接到军中。四月十一日，元子攸称帝，即孝庄帝。他任命尔朱荣为使持节、都督中外诸军事、大将军、开府、尚书令、领军将军、太原王。尔朱荣由此而登相位。实际上，庄帝只是个傀儡，大权由尔朱荣掌握。
胡太后得知消息后，十分恐惧，急忙命令都督李神轨率军抵抗。但李神轨临阵脱逃，另一个将领费穆也投降了尔朱荣。一连串失败的消息传到洛阳，胡太后无可奈何，在失望中召集明帝所有的姬妾，命令她们全部出家当尼姑。胡太后自己也剃光了头发。尔朱荣传令文武百官出城迎接庄帝大驾，同时派骑兵入洛阳，逮捕了胡太后和幼帝元钊，送到河阴。虽然胡太后见到尔朱荣后拼命为自己辩解，但尔朱荣一言不发，下令把胡太后和幼帝投入黄河淹死。
尔朱荣入洛的本意自然是要称帝，虽然胡太后已死，但夺取北魏政权却并非轻而易举。尔朱荣不过是一个边远地区的酋长，又未建立过特殊功勋，这样自然不会为洛阳的贵族们所拥护。这时候，降将费穆向尔朱荣建议说：“您的军队不超过1万人，现在长驱直入洛阳，既没有遇到抵抗，也没有打胜仗后的军威，因此肯定会有很多人不服。洛阳人口众多，人才鼎盛；如果一旦知道您的底细，恐怕会有轻视的想法。如果不大肆诛杀，树立自己的党羽，恐怕您北返时，不等越过太行山，政权就会再次生变。”这话正触动了尔朱荣的心病，他深以为是，准备利用文武百官出迎庄帝的机会，诛戮他们。
他的亲信慕容绍宗虽然极力劝阻尔朱荣，指出此非长远之计。但尔朱荣心意已决，他请庄帝沿黄河西行，抵达沟渚地方。他把出迎的文武百官，引向行宫西北，宣称要祭祀神灵。等大家集合以后，尔朱荣派骑兵将他们团团包围，大声宣称：“天下大乱，明帝之死，都是由于官员们贪污残暴，虐待人民，不能辅佐矫止。”然后下令将他们全部杀死。几千铁骑来回冲杀，刀锋铁蹄，无情地残杀践踏。一时哀号连天，鲜血直溅，河阴成了血的世界，自丞相高阳王元雍以下共屠杀两千余人。这时，另有一批官员100余人晚到，尔朱荣再令骑兵将他们包围，下令说：“有谁能写皇帝让位诏书的，饶其不死。”侍御史赵元则出队执笔，尔朱荣命他的军队宣传：“元家已灭，尔朱氏当兴。”大家都喊“万岁”！尔朱荣派武士数十人手持钢刀，直奔庄帝行宫。庄帝出帐探望，尔朱荣命人把庄帝强行拖入帐中，留在外面的卫士，又杀死了庄帝的亲信。尔朱荣命人把庄帝强行押送到河桥，囚禁在营帐之中。
河阴边的躁动这时才算慢慢平息下来。此时正是黄昏时分，如血的残阳照在河面上，一片鲜红，分不清是阳光，还是鲜血，景象有说不出的恐怖。尔朱荣骑在马上，看着正在往河里搬运尸体的士兵，一脸的冷酷。一抹斜阳恰好投在他因为兴奋而略显红润、跳动着诡谲色彩的脸上，两千多条鲜活的生命，就在这顷刻之间消失了。此时此景，不知道他心里在想些什么？
河阴的惨剧总算落下了帷幕。尔朱荣在极度兴奋的情况下，喊出了尔朱氏当兴的口号。但冷静下来之后，他才发现事情并非那么简单。他所率的部队兵力不过万余，根本无法用做他称帝的武力后盾。而且，河阴的屠杀，使世人对他并无好感，他还缺乏称帝所需要的威望，他意识到自己错了。于是在当天晚上四更时分，再派人把庄帝从河桥营帐下迎接到皇帝的御营中。他望见马头，跪下来叩拜，请求把自己处死，希望以此来消除庄帝的疑心。
尔朱荣所率领的契胡骑兵，因为在河阴屠杀文武官员过多，因此不敢进入洛阳，就想劝尔朱荣迁都。但经过迟疑之后，他决定进入洛阳。四月十四日，尔朱荣护送庄帝进洛阳，正式登极，大赦天下。追随尔朱荣南下的将士，一律擢并五级。这时文武百官几乎死尽，活着的人也不敢露面，只有散骑常侍山伟一人到皇宫前叩谢大赦之恩。京城也是一片混乱，人心惶惶，谣传尔朱荣将派兵大肆烧杀掠夺，又有传闻说要迁都，人们纷纷逃亡。朝廷也空空荡荡，缺少官员处理公务。洛阳全城一片惨淡。
尔朱荣为安定人心，巩固自己的权位，就上书给皇帝，声称自己在河阴的行为是由于大军推进，难于控制；并表示自己非常忏悔这件事，请求皇帝追赐河阴丧生者官职。并由他们的后代袭爵，并请派出使节，到各城抚慰。皇帝下诏以后，京城才有官员露面，人心也慢慢安定下来。尔朱荣虽然还一再坚持迁都的意见，但由于各方面的反对，也只好作罢。
尔朱荣大权在握，不免骄奢，也渐渐大意起来。有一次进宫，在明光殿晋见庄帝，再一次为河阴屠杀向庄帝道歉，誓言自己并无二心，庄帝起座亲自阻止他的叩拜，向他表示自己并无一点怀疑。尔朱荣大喜，就要酒豪饮，大醉如泥。庄帝想乘机会杀死他，被左右劝止。于是，庄帝就派人把尔朱荣的床连人一起抬到中常侍省休息。尔朱荣半夜醒来，惊出了一身冷汗，直到天亮，不敢合眼，从此不敢再入宫住宿。
尔朱荣逼迫庄帝把自己的女儿立为皇后，庄帝迫于形势，只好应允，但心里十分不满。五月五日，尔朱荣回晋阳，皇帝为他设宴饯行。尔朱荣命心腹元天穆代他坐镇洛阳，在百官中广树心腹。中央的重要官职，全由尔朱荣的心腹亲信担任。尔朱荣在晋阳遥领大权，控制朝廷局势，连皇帝的一言一行都在其掌握中。
