李茂贞不久又趁机发兵五万攻长安，前蜀、晋国皆出兵响应，朱温忙调刘知俊回军御敌，任命其为西路行营都招讨使。刘知俊在长安西击退岐军，乘胜追击至幕谷，再破岐军，俘斩以千计，李茂贞仅以身免，28]蜀军、晋军因岐军兵败，皆撤归本国。
刘知俊在美原之战时夺取的鄜、延等州此时早已被岐国收复，但延州的保塞军却发生兵变，节度使刘万子被杀。保塞军将领高万兴、高万金等三十八人向刘知俊请降，刘知俊趁机联合高万兴，再次夺取延州、鄜州、坊州、丹州等地。因此功被封为大彭郡王，加授检校太尉、兼侍中。
刘知俊在后梁的威望越来越高，而此时的朱温对诸将也是日益猜忌。当时，朱温以刘扞代王重师镇长安，竟听信刘扞的诬告，族灭了王重师。王重师之死使得刘知俊愈加惊惧，因此当朱温让他乘胜再攻邠州时，被他以“军食不给”所推辞。
后来，朱温又欲对晋国用兵，于是征刘知俊入朝，拟委任他为行营都统。刘知俊之弟刘知浣正在朝中，秘密遣人去阻止刘知俊，称其“不宜来”。刘知俊认为朱温是要诛杀自己，据同州叛乱，归附岐国。观察判官卢匪躬、牢墙使王仁嗣、押衙史肇、王彦洪、高汉诠、丘奉言、仇琼、王筠等同州属官，皆因拒不从叛，被刘知俊杀害。
刘知俊先攻取华州，又出兵袭长安，暗中以重金买通长安诸将，拘捕了刘扞，将其送往凤翔处死，李茂贞趁机出兵，接管了长安。当时，朱温曾遣使到同州，责问刘知俊道：“朕待卿甚厚，为何相负？”刘知俊答复称：“王重师未曾有负于陛下，却遭族灭！臣非背德，但畏死耳！”他派兵扼守潼关，试图阻止梁军西进，继而割据关中。