杨坚辅政后,北周的三位总管,相州尉迟迥、郧州司马消难、益州王谦同时起兵反杨,史称“并州三乱”。
北周宣帝宇文赟病死。周静帝宇文衍年幼,左丞相杨坚专政。杨坚为预防北周宗室生变,稳固其统治权力,以千金公主将嫁于突厥为辞,诏赵、陈、越、代、滕五王入朝;因尉迟迥位望素重,恐有异图,遂以会葬宣帝为名,诏使其子尉迟惇召尉迟迥入朝;并以韦孝宽为相州总管赴邺取代尉迟迥。大象二年(580年)六月,尉迟迥恐杨坚专权对北周不利,公开起兵反对杨坚。七月,青州总管尉迟勤从迥反杨。迥及勤所统诸州皆从之,有众数十万。荥州刺史宇文胄、申州刺史李惠、徐州总管司录席毗罗等,皆据州响应;怀县永桥镇将纥豆陵惠以城降迥。整个山东除沂州外,几乎都为尉迟迥控制。尉迟迥遣兵分路进攻,陷钜鹿、建州、潞州、东郡等地;同时质其子于江南陈朝,以请援;并派人出使并州,欲招降上柱国、总管李穆,遭到拒绝。
时杨坚挟幼帝以号令中外,结好并州李穆,送千金公主与突厥和亲,以消除北方之患;加强洛阳守御,作为进讨尉迟迥的战略基地;并令计部中大夫杨尚希先发精兵3000人镇守潼关,防其偷袭。同月十日,杨坚调发关中兵,令韦孝宽为行军元帅,陇西公李询为元帅长史,郕公梁士彦、乐安公元谐、化政公宇文忻、濮阳公宇文述、武乡公崔弘度、清河公杨素等为总管,率军讨伐尉迟迥。七月末,韦孝宽率大军自洛阳进驻河阳。尉迟迥军正围攻怀州,孝宽即以宇文述等将其击破,遂率军东进至永桥镇东南。众将请先攻此城,孝宽为求歼敌主力,说服诸将避开坚城,引军进屯武陟,与进到沁水东的10万尉迟惇军隔水对峙。八月十七日,杨坚所派监军高颎到达前线,遂令于沁水架桥,发起进攻。孝宽军奋勇进击,大败尉迟惇军,惇单骑逃往邺城。孝宽军乘胜疾追,直到邺城南。尉迟迥父子集中全部兵力13万人在城南布阵,以阻止孝宽军进攻,尉迟勤也率军援邺,已有3000骑兵到达。孝宽督军进攻,尉迟迥率部力战,孝宽军初战不利。时有数万士民观战,孝宽军即以箭射观者,制造混乱,然后乘乱反击,大败迥军。迥等退守北城,孝宽军破城而入,尉迟迥计穷自杀。尉迟勤等向青州溃逃,被大将军郭衍部追获。同月,杨素军也在石济击败宇文胄军,斩宇文胄。与此同时,杨坚命河南道行军总管于仲文率军8000人,自洛阳东进,大败尉迟迥部将檀让部于梁郡蓼堤,进占梁郡、曹州、城武等城,然后计破金乡,伏歼檀让、席毗罗等部10余万,俘檀让,斩席毗罗。随后,韦孝宽分兵进击关东各地降附尉迟迥的势力,彻底平定了尉迟迥之乱。战中,郧州总管司马消难、益州总管王谦先后举兵响应尉迟迥,反对杨坚。杨坚适时命柱国王谊、梁睿各为行军元帅,分别率军攻讨,均获胜利。同时,北周宗室诸王数次伺机欲除杨坚,杨坚均予果断处置,粉碎其夺权图谋。这场变乱,仅用了4个月便被杨坚平定,为他此后废静帝自立打下了坚实的基础。