黄巢起义军进犯长安，唐僖宗出逃，并传诏给郑从谠，让他将兵马交付北面招讨副使诸葛爽，南下勤王。郑从谠又被加封为侍中、行营招讨使，他接诏后涕泗不止，当即命牙将论安、后院军使朱玫统领五千兵马，随诸葛爽入关平叛。
李克用乘河东空虚，突然率军掩至太原，自称奉诏入关，郑从谠知道他不怀好意，遂闭城戒备，并登上城楼，勉励李克用，让他报国建功。李克用词穷而退，暗中却指使部将大肆劫掠。郑从谠命部将王蟾、薛威出击，在契苾部援军的帮助下，将沙陀军击败。不久，论安擅自撤军而回，郑从谠大怒，集合各部将校，当众斩杀论安。
唐僖宗命振武节度使契苾璋征讨李克用，并让郑从谠协助作战，朝廷赦免李克用之罪，让他出兵征讨黄巢，立功赎罪。李克用命大军绕道岚州、石州一带，沿黄河南下，自己则率数百骑前往太原与郑从谠话别，郑从谠则赠以名马、器币。
李克用收复长安，被授为河东节度使，接替郑从谠。郑从谠南返后，因道路难行，在绛州停留数月，又被召赴行在，授为司空，后改司徒。唐昭宗将郑从谠罢为太子太保，让他回府养病，不久郑从谠病逝，赐谥“文忠”。