董卓被诛杀之后，他的部下将士散布在关东一带的人数还很多，大多数是西凉人。王允起初想给予他们赦免，但后来犹豫不决。于是谣言四起，传言朝廷打算彻底屠杀凉州人。李傕、郭汜、张济都是凉州人，于是号召将士起义，声称要为董太师报仇，从关东杀入关中，沿途凉州兵纷纷响应。王允等人没有兵力，只能依靠吕布的力量。

初平三年（公元192年），凉州兵攻入长安，群众聚集到十余万，吕布战败逃亡，王允被杀害。年幼的献帝又被李傕、郭汜和樊稠劫持，三人共同掌握政权，张济则率兵驻守弘农。然而不久，三人之间发生冲突，李傕先杀樊稠，然后与郭汜在长安城内展开殊死搏斗，连续战斗数月。天灾人祸，百姓深受其苦。张济率兵自弘农前来调停，然而李傕与郭汜势均力敌，遂接受调停，由张济、杨奉、董承护送献帝东行。抵达弘农后，张济与杨奉、董承反目，而李傕与郭汜也后悔曾释放献帝，再度联合攻击张济，企图夺取年幼的皇帝。杨奉和董承则护送献帝，一边战斗一边前进，在弘农和陕城之间得到河北将士和南匈奴右贤王的支援，才逃到安邑。此时已经是兴平二年（公元195年）十一月，明年改元为建安。

建安元年（公元196年）七月，献帝由董承等人护送回洛阳。洛阳经董卓焚毁，已成为一片废墟，百姓只剩下几百家。