当时，李从珂命卢龙节度使赵德钧等救援晋安寨，而赵德钧一面按兵不动、向李从珂各种索求，一面里通契丹，请求立他为帝。耶律德光为防归路被截断，便暂时应允其请，石敬瑭听说后，赶紧派桑维翰面见耶律德光，说：“大国（契丹）发起义兵，救助我们脱离孤立危险的状态，打了一仗就让唐兵瓦解，退守晋安寨，如今已经粮食吃光，力量耗尽。那赵德钧父子不忠不信，只是畏惧大国的强大而且自己也怀有异志，就按兵观望，这种人不肯以死报国，有什么值得畏惧的？而您要相信他的谎言，贪图小利，放弃即将成就的功业吗？而且如果我们晋国得到天下，就将竭尽中国的财力提供给大国，这是他那种小利能比的吗？”
耶律德光说：“你看过抓老鼠的人吗？不防备老鼠，老鼠还会咬伤他的手，何况是大敌呢！”桑维翰说：“如今大国已经掐住唐国的喉咙，哪能咬人呢？”耶律德光说：“我不是违背之前的约定，只不过兵不厌诈，不得不答应他。”桑维翰说：“皇帝凭借信义救人危急，四海之人都在观察您的行为，可为什么反复变更您的命令、让您的大义没有贯彻到底？臣私下不赞成皇帝这种做法。”桑维翰在帐前从早跪到晚，哭着说服耶律德光收回成命，耶律德光最终听从，指着帐前石头，对赵德钧的使者说：“我已经跟石郎许诺过了，只有这石头烂了才能改变！”
不久，杨光远杀张敬达，归降石敬瑭，晋安寨陷落，后唐灭亡已成定局。在耶律德光的要求下，石敬瑭任命桑维翰为中书侍郎同平章事、集贤殿大学士，仍权知枢密使事，赐“推忠兴运致理功臣”号，地位仅次于赵莹。石敬瑭南下洛阳，向耶律德光辞行，耶律德光要求石敬瑭对刘知远、赵莹、桑维翰三人“无大故，勿弃也”。李从珂在洛阳自焚，石敬瑭进入洛阳，并命桑维翰撰文纪念耶律德光的“功德”。
桑维翰以宰相兼任枢密使，向石敬瑭提出“推诚弃怨以抚藩镇，卑辞厚礼以奉契丹，训卒缮兵以修武备，务农桑以实仓廪，通商贾以丰货财”的内政外交方针，从而稳定了中原的局势，巩固了草创的后晋政权。镇守魏州的天雄节度使范延光欲反抗石敬瑭，桑维翰支持石敬瑭迁都大梁，以备镇压叛乱。范延光与张从宾起兵，大梁百官惶惶不安，唯独桑维翰“从容指画军事，神色自若，接对宾客，不改常度”，才稳住了人心。张从宾攻汜水，石敬瑭打算逃到太原，桑维翰叩头苦谏道：“别看反贼兵锋虽盛，他们的势力不能长久，请您稍微等待，不要轻举妄动。”石敬瑭听从其言。