武自领军次信都，高乾、封隆之开门以待，遂据冀州。是月，尔朱度律废元晔而立节闵帝，欲羁縻神武。三月，乃白节闵帝，封神武为渤海王，徵使入觐。神武辞。四月癸巳，又加授东道大行台、第一镇人酋长。庞苍鹰自太原来奔，神武以为行台郎，寻以为安州刺史。
神武自向山东，养士缮甲，禁兵侵掠，百姓归心。乃诈为书，云尔朱兆将以六镇人配契胡为部曲。众皆愁。又为并州符，征兵讨步落稽。发万人，将遣之，孙腾、尉景为请留五日，如此者再。神武亲送之郊，雪涕执别。人号恸，哭声动地，神武乃喻之曰：“与尔俱失乡客，义同一家，不意在上乃尔徵召！直向西已当死，後军期又当死，配国人又当死，奈何？”众曰：“唯有反耳！”神武曰：“反是急计；须推一人为主。”众愿奉神武。神武曰：“尔乡里难制，不见葛荣乎？虽百万众，无刑法，终自灰灭。今以吾为主，当有前异，不得欺汉儿，不得犯军令，生死任吾，则可。不尔，不能为取笑天下。”众皆顿颡：“死生惟命。”神武曰：“若不得已。”明日，椎牛飨士，喻以讨尔朱兆之意。封隆之进曰：“千载一时，普天幸甚。”神武曰：“讨贼，大顺也；拯时，大业也。吾虽不武，以死继之，何敢让焉！”
六月庚子，建义於信都。乃抗表罪状尔朱氏。世隆等秘表不通。八月，尔朱兆攻陷殷州，李元忠来奔。孙腾以为朝廷隔绝，不权立天子，则众望无所系。十月壬寅，奉章武王融子渤海太守朗为皇帝，年号中兴，是为废帝。十一月，攻邺，相州刺史刘诞婴城固守。神武起土山，为地道，往往建大柱，一时焚之，城陷入地。永熙元年正月壬午，拔邺城，据之。废帝进神武大丞相、天柱大将军、太师。是时，青州建义大都督崔灵珍、大都督耿翔皆遣使归附。行汾州事刘贵弃城来降。
闰三月，尔朱天光自长安，兆自并州，度律自洛阳，仲远自东郡，同会邺，众号二十万，挟洹水而军。节闵以长孙承业为大行台，总督焉。神武令封隆之守邺，自出顿紫陌。时马不满二千，步兵不至三万，众寡不敌。乃於韩陵为圆阵，连牛驴以塞归道。於是将士皆有死志，四面合击之。尔朱兆责神武以背己。神武曰：“本戮力者，共辅王室，今帝何在？”兆曰：“永安枉害天柱，我报仇耳。”神武曰：“我昔日亲闻天柱计，汝在户前立，岂得言不反耶！且以君杀臣，何报之有？今日义绝矣。”乃合战，大败之。
四月，斛斯椿执天光、度律送洛阳。长孙承业遣都督贾显智、张欢入洛阳，执世隆、彦伯斩之。兆奔并州。仲远奔梁州，遂死焉。时凶蠹既除，朝廷庆悦。既而神武至洛阳，废节闵及中兴主而立孝武孝。孝武既即位，授神武大丞相、天柱大将军、太师，世袭定州刺史，增封并前十五万户。神武辞天柱，减户五万。壬辰，还邺，魏帝饯於乾脯山，执手而别。
七月壬寅，神武帅师北伐尔朱兆。封隆之言：“侍中斛斯椿、贺拔胜、贾显智等往事尔朱，普皆反噬，今在京师宠任，必构祸隙。”神武深以为然。乃归天光、度律於京师，斩之。遂自滏口入。尔朱兆大掠晋阳，北保秀容，并州平。神武以晋阳四塞，乃建大丞相府而定居焉。
尔朱兆既至秀容，分兵守险，出入寇抄。神武扬声讨之，师出止者数四，兆意怠。神武揣其岁首当宴会，遣窦泰以精骑驰之，一日一夜行三百里，神武以大军继之。二年正月，窦泰奄至尔朱兆庭。军人因宴休惰，忽见泰军，惊走，追破之於赤洪岭。兆自缢，神武亲临，厚葬之。慕容绍宗以尔朱荣妻子及馀众自保焉，突城降，神武以义故，待之甚厚。
神武之入洛也，尔朱仲远部下都督桥宁、张子期自滑台归命，神武以其助乱，且数反复，皆斩之。斛斯椿由是内不自安，乃与南陵王宝炬及武卫将军元毗、魏光、王思政构神武於魏帝。帝舍人元士弼又奏神武受敕大不敬，於是魏帝与神武隙矣。
天平元年正月，魏帝下诏罪状神武，为北伐经营。神武亦勒马宣告曰：“孤遇尔朱擅权，举大义於四海，奉戴主上，义贯幽明。横为斛斯椿谗构，以诚节为逆首。昔晋赵鞅兴晋阳之甲，诛君侧恶人，今者南迈，诛椿而已。”以高昂为前锋，曰：“若用司空言，岂有今日之举！”司马子如答神武曰：“本欲立小者，正为此耳。”
魏帝征兵关右，召贺拔胜赴行在所，遣大行台长孙承业、大都督颖川王斌之、斛斯椿共镇武牢。七月，魏帝躬率大众，屯河桥。神武至河北十馀里，再遣口申诚款，魏帝不报。神武乃引军渡河。魏帝问计於群臣，或云南依贺拔胜，或云西就关中，或云守洛口，未决。而元斌之与斛斯椿争权不睦，斌之弃椿径还，绐帝云神武兵至。即日，魏帝逊位於长安。
己酉，神武入洛阳，止於永宁寺。八月，神武以万机不可旷废，乃与百僚议，以清河王ノ大司马，居尚书下舍而承制决事焉。神武寻至弘农，遂克潼关。九月庚寅，神武还至洛阳，乃遣僧道荣奉表关中，又不答。乃集百僚、沙门、耆老，议所推立。以为自孝昌衰乱，国统中绝，神主靡依，昭穆失序，遂议立清河王世子善见。议定，白清河王。王曰：“天子无父，苟使儿立，不惜馀生。”乃立之，是为孝静帝。魏於是始分为二。
神武以孝武既西，恐逼崤峡