致身宰辅
李泌一生崇尚出世无为的老庄之道，视功名富贵如敝屣，因此在唐肃宗和唐代宗两朝多次坚决辞去宰相之位，并最终远离了朝堂，长期隐居于衡山。泾原兵变后，唐德宗避难于梁州（今陕西汉中），紧急下诏征召李泌至梁州行宫，授予他左散骑常侍之职，并命他每日在中书省值班，以便随时等候召见应对。李泌因此殊荣而受到朝野的广泛关注。贞元元年（785年）七月，陕虢（今河南陕县、灵宝一带）都知兵马使达奚抱晖毒杀节度使张劝，擅自代领军务，并邀求朝廷授予旌节，同时密召李怀光部将达奚小俊为援。面对危急局势，德宗命李泌出任陕虢都防御水陆运使。
李泌请求单骑前往处理，德宗初有疑虑，但最终同意。李泌先会见陕州进奏官及在京城的将吏，欺骗他们说：“皇上因陕虢饥荒，命我担任运使，督运江淮米粮以赈济灾民。陕州行营设在夏县，如果达奚抱晖可用，就让他统军；若他有功，就让他出任节度使。”以此策略来麻痹达奚抱晖。同月十七日，德宗加封李泌为陕虢观察使。李泌抵达陕州行营后，巧妙地让达奚抱晖自行带领家人逃亡。李泌辞行时，德宗曾草拟一份参与叛乱的七十五人名单交给他，命他诛杀。李泌遣走达奚抱晖后，朝廷所派的宣慰使要求他必须诛杀叛乱者。李泌不得已，只将兵马使林滔等五人械送京城。达奚小俊领兵入境，听闻李泌已入陕，只得撤军。陕虢之地因此得以安定。李泌又凿山开辟车道至三门，以便于军粮运输。因这一系列劳绩，他被加官检校礼部尚书。
贞元三年（787年），参与防秋的淮西门枪兵马使吴法超率步骑四千从鄜州（今陕西富县）叛逃。浑瑊派部将阻拦未果。唐德宗急遣中使敕令李泌发兵拦阻，不得让淮西军渡河。李泌马上派押牙唐英岸率军至灵宝，但淮西军已渡过黄河列阵。李泌于是令灵宝供给他们粮食，淮西军也不敢剽掠。次日，淮西军在陕州城西宿营，李泌不再向他们供给粮食，而派部将率精兵埋伏于太原仓隘道。一日后，淮西军行入隘道，李泌所派的伏兵齐发，淮西军大败。残军从山路南逃，李泌又派大将燕子楚率军四百至长水（今河南洛宁西）。唐英岸多次追败叛军，吴法超等至长水，被燕子楚伏击。
六月，李泌入朝，出任中书侍郎同平章事，正式拜相。李泌的执政时间虽短，但在任内却做了许多意义重大的事，从而在相当程度上保证了贞元年间帝国总体形势的和平与稳定。李泌对内政的处理，外交的策略，军事的部署，财经的筹划，都做到了安和的绩效。他勤修内政，充裕军政费用。保全功臣李晟、马燧，以调和将相。外结回纥、大食，达成“贞元之盟”，从而遏制吐蕃以安定边陲。李泌常有与德宗政见不同之处，反复申辩上奏达十五次之多。唐德宗曾对他说：“朕要和你约法在先，因你历年来所受的委屈太多了，不要一旦当权，就记恨报仇，如对你有恩的，朕会代你还报。”
李泌说：“臣素奉道，不与人为仇。害臣的李辅国、元载他们，都已经离开了。过去与臣要好的，但凡有才能的，也自然显达了。其余的也都零落消亡了。臣实在没什么恩怨可报的。但是如陛下方才所说，臣可与陛下有所约言吗？”
德宗就说：“有什么不可以的呢？”李泌便进言，希望德宗不要残害功臣，认为“李晟、马燧有大功于国，闻有谗言之者。陛下万一害之，则宿卫之士，方镇之臣，无不愤怒反厌，恐中外之变复生也。陛下诚不以二臣功大而忌之，二臣不以位高而自疑，则天下永无事矣。”德宗听了认为很对，接受了李泌的建议。李晟、马燧在旁听了，当着德宗感泣而谢。太子妃萧氏的母亲郜国公主因与太子詹事李昪等有染，有人告发他们以通奸为名，为太子结交党羽。德宗大怒，将郜国公主软禁在宫中，并责备太子李诵，太子不知所措。
李泌猜测唐德宗有改立舒王李谊为嗣的意图，便说：“陛下有一个儿子（指李诵）却怀疑他，想要立弟弟的儿子（指李谊），臣不敢用古例争论。再说十王宅的叔父们，陛下是如何对待的？”德宗惊讶道：“你怎么知道舒王不是朕的儿子？”李泌回答：“陛下过去为臣说过这事。陛下有嫡子却要怀疑，那弟弟的儿子怎敢为陛下所信任？”唐德宗听了不满，语带威胁地说：
“你违背朕的心意，难道不顾及你的家族吗？”李泌回答说：“臣已经衰老了，位居宰相，因谏言被诛，是我的职分。假使太子被废除，他日陛下后悔说‘我只有一个儿子却被我除去了，李泌不劝谏我，我也要斩了你的儿子’，那么臣就绝后了。虽然臣的兄弟有儿子，但他们的祭祀不是我该享受的。”说罢便呜咽流涕，接着又说：
“昔日太宗下诏：‘太子无道，藩王窥伺太子之位的，二者都应废黜。’”陛下对太子生疑而称赞舒王贤明，他能没有窥伺太子之位的想法吗？如果太子有罪，请求废掉他而立皇孙，千秋万岁以后，天下还是陛下的子孙所有。何况郜国公主被女儿妒嫉，而蛊惑太子，陛下怎能因妻子的母亲连累太子呢？”李泌在唐德宗面前争论数十次，始终坚持己见，德宗才醒悟，太子李诵“乃得安”。接着李泌又提出唐肃宗与唐代宗父子恩怨之间的往事，道说：“陛下不记得建宁王的事情吗？”德宗说：“建宁叔确实是冤枉的，他的不幸是因为唐肃宗性子太急了。”
李泌继续进言：“臣昔日为了此事而辞职归隐，曾发誓不再靠近天子身边，不幸今日又担任了陛下的宰相，再次目睹此类事件（指太子被诬陷）。往昔先帝（德宗之父代宗）心中常怀忧虑恐惧。臣离朝辞谢时，曾诵读《黄台瓜辞》，肃宗因此悔悟而哭泣。”（《黄台瓜辞》乃章怀太子李贤所作，武则天掌权时，屠杀李唐宗室，李贤自感难以幸免，故而创作此辞）。唐德宗听闻此言，终于有所触动，但仍问道：“我的家事，为何你要如此极力干涉？”李泌回应：“臣现今独担宰相重任，四海之内，但凡‘一物失所’，罪责皆归于臣。若坐视太子蒙受冤屈而缄默不语，臣的罪过便大了。臣甚至愿以整个宗族的性命担保太子。”