高欢秉掌大权，孝武帝对这种政由旁出的局面很不满意，于是秘密与贺拔岳相结，想依凭岳在关中的实力来牵制高欢。起初，贺拔岳遣行台郎冯景诣晋阳（今山西太原市南）见高欢，高欢与冯景歃血为誓，约与贺拔岳结为兄。冯景回去后，告诉贺拔岳，高欢奸诈有余，不可轻信。当时为府司马的宇文泰自告奋勇去出使晋阳，以观察高欢为人。宇文泰到了高欢那里，与高欢口答应对，敏捷雄辩。高欢心里暗惊，想把宇文泰收为己用，宇文泰却固辞而返。高欢当时哪里会想到，自己简直就是放虎归山，放走了这位此后再未谋面却是敌对一生的对手。
宇文泰回到长安后，对贺拔岳分析了当时形势：“高欢决不是那种甘于为臣下的人，他之所以还没有篡夺皇位，是惮于你们兄弟二人。至于侯莫陈悦其人，不过是个庸人，只是碰上了好机会，才得以居高位，其既无忧国之心，也就不为高欢所猜忌，只要早作准备，取之不难。如今河西费也头有控弦之骑不下1万，夏州刺史斛拔弥俄突拥兵3000，灵州刺史曹泥、河西流民纥豆陵拔利也各拥部众，心怀异望。因此，今如引军向陇，扼其要害，示之以威，服之以德，即可收其兵马，充实我军。西辑氐、羌，北抚沙塞，还军长安，匡辅魏室，这正是当年齐桓、晋文之举也。”贺拔岳听了非常佩服，于是派宇文泰到洛阳见孝武帝，秘密向皇帝陈述了这个打算，孝武帝听后大喜，加封宇文泰为武卫将军。
公元533年八月，孝武帝授贺拔岳为都督雍、华等20州诸军事、雍州刺史。贺拔岳以牧马为名，引兵西屯平凉（今甘肃华亭西），除了灵州刺史曹泥依附于高欢外，费也头万俟受洛干、夏州刺史斛拔弥俄突、河西流民纥豆陵伊利等皆归附于贺拔岳。秦、南秦、河、渭四州刺史也来到平凉，受贺拔岳的节度。当年，贺拔岳以夏州（治岩绿，今内蒙古乌审旗南白城子）边塞要地，欲派得力之人为刺史，在众人的极力推举下，以宇文泰为使持节、武卫将军、夏州刺史。宇文泰到州后，抚慰流民，结好少数民族，很快控制了夏州局势。
公元534年春正月，贺拔岳准备讨伐曹泥，遣都督赵贵到夏州与宇文泰商议此事。宇文泰认为：曹泥虽然依附高欢，但灵州（治今宁夏灵武西南）不过孤城一座，未足为忧，值得担心的是侯莫陈悦，贪而无信，必然为患，应尽早谋取之。贺拔岳没有听从宇文泰的意见，坚持己见，与侯莫陈悦共同出兵伐曹泥。然而陈悦早已受高欢密旨，出兵途中，借口商议军事，诱使贺拔岳入营，把贺拔岳给杀了。
贺拔岳死后，军中无人统帅，人心离散，在大都督赵贵的建议下，众人共推宇文泰为统帅，派杜朔周星夜奔夏州告之。宇文泰闻讯，当即率帐下轻骑驰赴平凉，为了防止事变，令杜朔周帅众先据弹筝峡（今甘肃平凉西北）。宇文泰行至安定（今甘肃泾川北），正巧遇上高欢派来招抚贺拔岳部众的侯景。宇文泰言辞俱厉的数说侯景，侯景听了之后不敢再前往平凉，中途就回去了。孝武帝元修听说贺拔岳被害，遣武卫将军元毗为使前往宣旨抚慰，并调贺拔岳所领部众归还洛阳，及元毗到平凉，宇文泰已被众将推为统帅。
宇文泰统领了贺拔岳的军队后，一面命诸军戒严，准备进讨侯莫陈悦，一面上表孝武帝，并与元毗及诸将刑牲盟誓，相约共扶王室。孝武帝于是下诏以宇文泰为大都督，统领贺拔岳所部的人马。
宇文泰得到孝武帝的正式承认后，立即准备进攻侯莫陈悦。原州（治高平，今宁夏固原）刺史史归，原来是贺拔岳的亲信，贺拔岳死后，史归竟然投奔了侯莫陈悦。侯莫陈悦又派遣王伯和、成次安领兵2000助史归镇守原州。因此，宇文泰首先派都督侯莫陈崇率领轻骑1000奔袭原州，不费吹灰之力就擒获史归、王伯和及成次安等，绑了送去平凉。公元534年三月，宇文泰调发诸军，在原州会合，准备攻打侯莫陈悦。四月，宇文泰率军来到木狭关（今宁夏固原西南），正逢大雨雪，平地积雪二尺。宇文泰素来知道侯莫陈悦胆小而且多疑，于是命令军队加速前进，出其不意的直扑侯莫陈悦的大本营水洛城（今甘肃庄浪东南）。侯莫陈悦听到宇文泰大军到来的消息，留了1万人守水洛城，自己却领着大军退守略阳（今甘肃秦安东北陇城镇）去了。宇文泰大军来到水洛，守军当即就出降了。宇文泰马上又率领轻骑数百直奔略阳而去。侯莫陈悦听说后，不敢恋战，又退守到上邽（今甘肃天水）去了。当时南秦州刺史李弼亦在侯莫陈悦军中，见侯莫陈悦败势已定，于是暗中派使者去见宇文泰，请求作为内应。当天晚上，侯莫陈悦弃城逃跑，军中不战自乱，士卒纷纷来降，宇文泰纵兵奋击，大破侯莫陈悦军。侯莫陈悦仅与子弟及麾下数十骑遁走灵州，宇文泰急令镇守原州的宇文导在前面堵击，又以都督贺拔颖领一军尾追，至牵屯山（今宁夏固原西）追及，侯莫陈悦自知无法幸免，便自杀了。随后，宇文泰又遣都督刘亮攻取了盘踞豳州（治定安，今甘肃宁县）的侯莫陈悦一党的孙定儿。然后又以重兵威逼，迫使氐王杨绍先称藩，送妻、子过来当人质。十一月，遣李虎、李弼等讨伐曹泥，第二年，曹泥投降，灵州就此平定了。宇文泰将大军置于咸阳（今陕西咸阳东北），以加强控制。
宇文泰平定秦、陇后，实力增强，孝武帝封宇文泰为侍中、骠骑大将军、开府仪同三司，关西大都督，略阳县公，承制封拜，成为仅次于高欢的有力人物。
孝武帝重用宇文泰，与高欢则算是彻底绝裂了。534年7月，魏孝武帝亲师十万军队屯于河桥，以斛斯椿为前驱列阵于邙山之北，攻打高欢。斛斯椿向皇帝请两千兵马趁夜渡黄河趁高欢立脚未稳进行偷袭。孝武帝开始时觉得此计很好，黄门侍郎杨宽劝道：“现在这紧急关头把兵权给别人，恐生他变。万一斛斯椿渡河偷袭成功，那可是灭掉一个高欢又生出另外一个高欢啊。”孝武帝闻言马上下令斛斯椿停止发兵。斛斯椿叹息道：“皇上不用我的计谋，真是天意不兴魏室啊。”在关中附近的宇文泰也听到风声，对左右讲：“高欢数日内急行军八九百里，疲军迎敌，是兵家大忌，正好乘其疲惫奇袭。当今皇上以万乘之尊御驾亲征，不主动出击渡河决战，反而沿河据守，很是失策。而且长河万里，只要一个地方被突破，必败无疑。”
两军未交锋，孝武帝一方已有贾显智、田怙等人暗中约降，高欢很快就率军渡河。魏孝武帝慌忙召集众臣商议对策，有的讲要奔依梁国，有的讲南依贺拨胜，有的讲西就宇文泰，有的讲守洛口死战，众口纷纷，不能定夺。朝臣元斌之与斛斯椿争权，从军中跑至孝武帝处，欺骗皇帝说高欢军队已经逼近。孝武帝又惊又急，一面派人召斛斯椿还军，一面带着几个本家王爷率5000兵马准备出逃。大家暗中知道皇帝要西逃，夜里就跑了大半。惟独武卫将军独孤信单骑追随皇帝。试想，成千上万的人马往洛阳方向跑，惟独独孤信一人只身匹马逆向而追，情景感人至深。孝武帝叹道：“将军您辞父母、抛妻弃子跟随我，人们常说‘世乱识忠臣’，此言不虚啊。”天日昭昭，这位风度翩翩、忠心耿耿的奇男子最后虽为宇文泰所害，但后代荣宠无比：长女为北周明敬皇后，四女为元贞皇后，七女为隋文帝皇后。北周、隋、唐三朝天子均是他的后人，诸子也加官进爵，门庭赫赫。此为后话。
孝武帝一路饥渴困顿，缺粮少食，最后在长安东阳驿遇见帅兵迎驾的宇文泰。高欢自晋阳发兵以来，给皇帝上了四十多封奏表，都没有答复。他还亲自帅兵追赶孝武帝，目的是把皇帝追回以掩免逐君出逃的过错，最终没有实现此愿。无奈，高欢回洛阳后立清河王的世子元善见为帝，是为孝静帝，时年11岁。当时清河王元檀自己已经准备好当皇帝，高欢怕他日后不好控制，就选择了这么个少年推上帝位，以免重蹈覆辙。从此，魏朝分裂为东魏和西魏。
孝武帝好不容易逃到宇文泰这里，谁知道却是才出虎穴，又入狼口。据说孝武帝有堂妹三人，都没有出嫁，名义上封为公主，在宫中实际上充当孝武帝的嫔妃。其中一个平原公主元明月最受他宠爱。为消乱伦之丑，宇文泰怂勇西魏元姓诸王把平原公主从孝武帝身边抢出来杀掉了。孝武帝恨恨不平，美人被夺，悲愤可知，他不时在宫内弯弓搭箭，或以刀砍击桌案，宣泄不平，言语之间也掩饰不住对宇文泰的恨意。宇文泰在皇帝身边耳目甚多，闻此也做事干脆，派人把毒药放进孝武帝酒里，毒死了这位很有主见的皇帝，时年25岁。随后，宇文泰立平原公主的亲哥哥元宝炬为帝。
至此，北魏的两大权臣高欢与宇文泰正式割据东西，分别控制着个傀儡皇帝，可谓东成西就。两人具有一统北方的雄心，这两位命中注定的对手必将展开一场旷日持久的大战。高欢与宇文泰堪称乱世枭雄，两人初次见面时就感到对方非是池中之物，想必也猜到对方可能会成为自己日后的劲敌。但他们大概没有想到，两人真正成为了一生的对手，谁也不服谁，谁也吃不掉谁。东魏西魏之间大战先后五次，高欢宇文泰双雄对峙，可谓北朝历史上最值得书写的一段历史。
