西魏建立
永熙三年（534年）侯莫陈悦在平凉（今属甘肃平凉西南）杀死贺拔岳后，宇文泰继统其军众，击败侯莫陈悦，向东进据长安。其后魏孝武帝与高欢不睦，入关就宇文泰，任命其为大将军、雍州刺史兼尚书令。宇文泰杀魏出帝，立元宝炬为帝（魏文帝），改元大统，535年正月，文帝于长安城西即位，改元大统，宇文泰为丞相、都督中外诸军事、大行台，军政大事尽出于泰手。是年十月，高欢另立元善见称帝，徙都于邺（今河北临漳西南邺镇），从此，北魏分为东魏和西魏，高欢与宇文泰皆居相位，军国大事总属相府，成为实际的统治者，元氏皇帝不过是傀儡而已。
与东魏交战
大统元年（535年）春正月，东魏大行台尚书司马子如率军再攻潼关，见宇文泰已有准备，遂挥师攻华州（治华山，今陕西华县），赖著刺史王罴的拚力死战，才打退了东魏进攻；大统二年三月，高欢又亲率万骑袭取夏州，徙五千户而归。不久，又袭取灵州，徙五千户而归；大统三年正月，高欢又领军屯蒲阪（今山西永济县蒲州镇），于黄河上架设浮桥，准备渡河攻潼关。高欢恃戎马之强，年年进攻西魏，虽然未曾得手，但宇文泰知道，长此下去，实力处于劣势的西魏必然难以支持，当务之急，是要提高士气，增强战斗力，开拓兵源，扩充军队。
大统九年（543年）二月，高欢将兵十万，渡过黄河，据邙山（今河南洛阳西北）列阵，宇文泰领军击之，战于邙山，大败，士卒损失六万余人，经过数年经营建立起来的一支军队损失大半。而当时关陇地区的鲜卑族人数有限，不可能再大量补充军队，因此，邙山之战后，宇文泰开始从汉族中间吸收兵员，三月，宣布征募关陇地区的豪强地主武装。在北魏末年的关陇起义中，豪强地主为了维护自己的利益，组织乡兵，东西魏分立后，这些地主武装并没有解散，仍然控制在豪强手中。宇文泰通过广募豪强以充军旅这一措施，把这些分散的乡兵武装变成中央军队的一部分，由政府选择关陇地区有名望的人物来统领，从而，既加强了中央对军队的控制，削弱了北魏末年以来的地方势力，又促进了武川军人集团与关陇地主的联合。此后，到大统十六年（550年），又进一步把征兵对象扩大为所有的均田户，这样，西魏军队中汉族士兵的比重进一步增加。
大统十二年（546年）九月，高欢亲率大军十余万人，围攻西魏据守的玉壁（今山西稷山县西南），想拔除西魏安在汾水下游的这个钉子。西魏并州刺史韦孝宽镇守玉壁，顽强抵抗，高欢先后采用断水道、火攻、挖地道等战术，围城五十余日，士卒死亡七万多人，未能攻下玉壁，最后高欢染疾，只得解围而去。玉壁之战，高欢倾力而出，攻一孤城五十余天不下，智力皆困，以至愤恚成疾，转年正月，发病而死。自此，西魏扭转了过去的劣势，和东魏势均力敌了。
高欢死后，子澄即位，高澄与手握重兵的侯景不和，畏景权重，欲夺其兵权，侯景以河南十三州之地降于西魏。宇文泰接受了侯景的投降，同时又对机诈权变的侯景十分谨慎，分派大军络绎接收侯景所占土地，并示意景交出军队，入朝长安。其时，高澄在侯景叛变后，也派大军进逼，于是，侯景转而投归萧梁，酿成了一场侯景之乱。在平定侯景之乱的过程中，萧氏兄弟争夺帝位，相互残杀，宇文泰乘机略取土地，夺得汉东、益州、襄阳（今湖北襄樊）等地，控制了长江上游和汉水。
