代宗初封广平王。天宝末，玄宗幸蜀，帝侍肃宗北巡。时贼陷京城，所在多虞，帝蒙犯荆榛，昼夜不离肃宗左右。及玄宗逊位，称太上皇，肃宗即皇帝位，遂以帝为天下兵马元帅。帝以国步未康，不敢更辞，乃建幕府，以吏部侍郎苏震、谏议大夫畅璀（七罪反）等为副使、判官。诸道节度郭子仪、李光弼、王思礼等咸受节制。时朝廷草创，兵无一旅，肃宗布恩信，收集师徒，自灵州建大号，移幸泾、宁及岐，数月间兵号十万。

至德二年九月丁亥，帝受命东讨，统朔方、安西、回纥、南蛮、大食之众二十万，鼓行而前。将行，百寮拜送于朝堂，帝答拜，既出，当阙不乘马，步出木马门而后登车，观者美之。帝既抚军，志清寇难，见回纥王子叶护，约为兄弟，遇之甚厚，叶护大喜。

壬寅，大会于京城之西南香积寺之北，连亘三十里，营伍严整，衔枚无声。以安西、北庭行营节度使李嗣业为前军，朔方、河西、陇右行营节度使郭子仪为中军，关内行营节度使王思礼为后军，戈鋋𥀷鼓，震山耀野。贼将安守忠、李归仁悉以前军来逼，我师殆乱。前军节度使李嗣业谓子仪曰：“今日之事，若不以身啖寇雠，决战取胜，三军之士无孑遗矣。”言讫，乃仗长刀立阵前，解衣袒而大呼，手杀数十人，阵容方整。繇是前军之士皆执长刀，如墙而进，所向摧靡。先是，贼伏一军于营东，候动则发，侦者知之以告。帝亲率回纥锐卒剪其伏军，遂蹑大营背，与嗣业合势，表里夹攻，自辰及酉，斩首六万余级。贼军大溃，填沟涧而死者十七八。长安城中贼党震栗，喧嚣之声终夜不止。贼党张通儒为贼居守，闻忠等大败，遂与麾下并贼伪官万余人宵遁，西京平。迟明，帝乃整军容入城，城内百姓、僧道、老幼遮道欢呼，咸曰：“不图今日复见国家旧仪。”帝所至宣恩慰抚，城内纤毫无犯。乃命后军王思礼屯兵于苑，以清宫禁，亲率大军而东。时逆贼安庆绪尽出精锐十余万，使其党严庄、张通儒合军保陕州。帝与副元帅郭子仪、大将李嗣业、王思礼等率回纥、南蛮、大食等会战于陕西，贼军大败，生擒斩馘十余万，通儒等遁走。庆绪闻之，窃与其党自苑北门夜遁，奔于河朔，东京平。帝入东京，陈兵于天津桥，宣恩劳徕，士庶欢跃，声震四远。河南、河东诸州为贼所陷者皆归顺。

十月，肃宗还京师，发使奉迎。玄宗至自蜀郡，居兴庆宫，百司文物、三宫容卫悉复旧仪，皆帝之功也。