消息传到灵武，肃宗皇帝便下旨，令广平王统率大军东征。
李嗣业统前军，郭子仪将中军，王思礼将后军。又有回纥叶护部落各骑兵助战。张通儒兵十万，驻扎长安；大部是胡人，胡兵素畏回纥声势，一见回纥，骑兵便一哄惊散。李嗣业将兵合攻，通儒大败，弃妻子，逃至陕中。广平王夺回长安，又转向洛阳攻来。
此时蔡希德从上党来，田承嗣往颖川来，武令珣从南阳来，有兵六万人，会攻洛阳；安庆绪势不能支，弃洛阳宫殿而逃。捉得庆绪弟庆和，送京师斩首。庆绪只得兵五百人，去投史思明；史思明闻庆绪来奔，先令军士披甲埋伏在两廊，待庆绪到，再拜优地，谢曰：“臣不克负荷，弃两都，陷重围，臣之罪，惟大王图之！”
史思明怒曰：“兵利不利亦何事，而为人于杀父求位，非大逆耶？吾今乃为太上皇讨贼！”
说至此，向左右回顾，便有武士牵出，斩下庆绪首级来。
肃宗知庆绪已死，使下诏令郭子仪、李辅国，统九节度使兵二十万，来攻思明。可笑史思明才篡得安庆绪的皇位，不多几天，便也被他儿子史朝义指使他手下的曹将军，拿绳子活活地缢死。那朝义也被他臣下田承嗣逼得出走，缢死在医巫闾祠下。安、史两贼俱灭。当时受史思明官职的恒州刺史张忠志，赵州刺史卢俶，定州刺史程元胜，徐州刺史刘如伶，相州节度使薛嵩，又有大将李怀仙、田承嗣，一齐献出城池，投降唐朝，从此天下太平。