肃宗听从了李泌的建议。唐肃宗害怕郭子仪、李光弼等不把李俶、李泌放在眼里，李泌笑着说：“我自有办法，请陛下让广平王到元帅府走一趟，等郭子仪、李光弼等来元帅府时，我请他们喝酒。我与他们订下酒令，谁也不准起身。广平王在我们开始喝酒后再进来。我不向广平王行礼，只与他说笑，郭子仪、李光弼等见到广平王后，一定拜见。
到时候我自然有办法”。唐肃宗同意了。李泌又对唐肃宗说：“请陛下亲自对广平王说，这是我的计策，并不是我因为陛下宠幸、没有把广平王放在眼里”。唐肃宗知道李泌与广平王李俶关系要好，但还是不明白李泌为什么这样做。李泌只好解释说：“广平王身份高贵，他们必然行礼，到时候我点明广平王元帅身份，要求他们行三拜大礼。至于我就简单多了，他们见我不给广平王行礼，一定认为我受陛下恩待，自然不敢造次”。
唐肃宗认为此办法不错，就答应了。第二天，广平王来到元帅府，结果如同李泌所说的一致。郭子仪、李光弼对李俶、李泌从此礼敬有加，规矩多了。唐肃宗想起在做太子时，宰相李林甫多次以进谗陷害他，肃宗积怨甚久。即位后，打算将李林甫的遗骸挖出鞭尸焚烧。为李泌阻止说：“陛下身为天子却念及旧恨，不能以宽广的胸怀显示于天下，会使那些投靠叛军的人失去改过自新的想法和机会”。
唐肃宗余怒未消，说：“难道你忘了过去的事了吗”？李泌回答道：“臣考虑的不在于这些。上皇（李隆基）统治天下五十年，一朝失意（指玄宗逃亡四川），南方气候恶劣，而且已经年迈，如果听说今陛下记恨旧怨，必将心生不乐。万一上皇伤感发病，难道不是陛下的罪过吗”？话未说完，肃宗便立马感悟，下阶抱着李泌的脖子痛哭道：“朕没想到这些呀”！唐肃宗忧虑安禄山、史思明叛乱难平，李泌断定安禄山、史思明等人是一群没有宗旨和目标的乌合之众，目的只在抢劫，说：“天下大计，非所知也。
不出数年，无寇矣。陛下无欲速，夫王者之师，当务万全，图久安，使无后害”。后来发展果如李泌预见的一样。唐肃宗见唐军在郭子仪、李光弼等率领下，取得了节节胜利。特别是见西京长安收复后，李亨想起远在成都的唐玄宗潸然泪下。急忙上书奏请唐玄宗东归长安，自己愿意复还东宫，以尽孝道。等奏表发出后，才告知李泌，李泌一听，就说坏了：“奏表送到，上皇一定不会回来”。
唐肃宗惊问何故？李泌答道：“这是情理使然，如果将陛下奏表改为群臣贺表，太上皇才可打消顾虑”！唐肃宗让李泌重新起草贺表，送达蜀州。不久，使臣返回长安，说：“太上皇初见奏表，心情不定，吃不下饭。后又见贺表，才转忧为喜，初步订下回京日期”。唐肃宗高兴地对李泌说：“非卿提醒，朕不能尽奉孝道啊”！李泌与唐肃宗关系密切，遭到权臣崔圆、李辅国的猜忌。
两京收复后，平叛大局已定，李泌便主动要求离开权力的中心，遁避进衡山修道，肃宗下诏赐李泌三品俸禄及隐士服饰，还为他建造了居室。李泌隐居数年后，唐玄宗去世，唐肃宗随后也驾崩了，广平王李豫（原名李俶）继位，是为唐代宗。唐代宗思念李泌日久，派人召请李泌回来，任命他为翰林学士。大历十二年（777年），京兆尹黎干奏称秋雨使庄稼损坏，韩滉则称其言不符实，代宗命御史前往核实。
渭南县令刘澡、御史赵计附和韩滉，声称渭南境内的禾苗没有损坏。代宗怀疑此事，命人招韩滉回京询问查证，韩滉性格耿直，认为朝廷听信谗言，不敢来京，朝中果然有人趁机诬陷韩滉心怀异志、图谋不轨。唐代宗将信将疑，询问李泌，李泌说：“关中春夏大旱，蝗虫成灾，秋后阴雨肆虐，关中粮食短缺，怎么可能渭南无灾呢？就算渭南无灾，关中粮仓一空，韩滉所说一定不实，但陛下可赦免其罪，命其子告诉韩滉火速到江东诸地调运粮草，以救三秦之急”！韩滉听完儿子的转述，很高兴接下了这个差事。
李泌在朝，安排事物井井有条，很得人心。宰相元载心生妒忌，又见李泌不肯依附自己，认为留他在朝必将对自己是一个潜在威胁。李泌见元载表情不对，再次恳请唐代宗放自己回归山林，回衡山修道去了。同年（大历十二年，公元777年），元载犯罪伏诛，代宗立即召李泌还京，准备重用。宰相常衮害怕李泌威胁自己位置，常衮极力唆使唐代宗，陈述南方穷困之状，请求放李泌前往治理，代宗无奈，只得授李泌为澧（今湖南澧县）、郎、峡（今湖北宜昌）三州团练使，后迁任杭州刺史。
