唐玄宗天宝十四年（755），安禄山在范阳（今北京）造反。郭子仪被委任为朔方节度使。第二年，郭子仪和河东节度使李光弼在嘉山（今河北定县）一带用奇计大败叛将史思明，杀敌四万，生擒五千。史思明丢盔弃甲，狼狈逃窜。郭、李大军沿途收复河北十多个郡，准备乘胜追击，直捣安禄山的老巢——范阳。恰在这时，战略重镇潼关因哥舒翰战败而失守，唐玄宗仓皇西走，太子李亨也北逃到灵武（今宁夏灵武）。当年七月，李亨在灵武即位，是为唐肃宗。郭子仪、李光弼奉命率步骑五万赶往灵武，计划收复长安、洛阳两都。当时，新君刚立，文武官员不满三十人，力量非常薄弱，士气十分低落。直到郭、李率部击败了史思明，精神才为之一振，老百姓才看到了一点收复失地的曙光。为表彰郭子仪的丰功，肃宗加封他为兵部尚书。

郭子仪、李光弼率军准备乘胜扩大战果，这时，宰相房琯向肃宗请命收复两京。肃宗一口答应了他的要求。房琯仿效古法，用牛车布阵，被叛军纵火烧死烧伤四万多人，以大败而告终。朝廷力量本来就很微弱，再经此重创，实力大损，而郭子仪的朔方军，就成了抵抗叛军的主力。

不久，郭子仪又从回纥借兵，收复了两京。凯旋入朝的那一天，肃宗当着满朝文武的面，对郭子仪说：“国家重新建立，是卿的功劳啊！”郭子仪叩首谢恩。因战功赫赫，郭子仪被任命为中书令，晋封汾阳王。