武宗崩，皇太叔唐宣宗继位，李德裕因此失势，白敏中成为宰相，随后魏谟被提升为郢州刺史，又被提拔到离京城更近的商州为刺史。被召回长安任给事中，迁御史中丞，谢日面赐金紫之服，上任后就上表弹劾宣宗姐妹夫驸马都尉杜中立贪赃，权贵震动且害怕他。后他兼任户部侍郎，判本司事，他上表指出既监督财货又任御史中丞不合适，在他的请求下，他被免除了御史中丞一职。
宣宗授魏谟同中书门下平章事，拜为宰相，仍判户部。当时，唐宣宗四十二岁仍不立太子，当魏谟面圣感谢任命时，哭谏自己没有夔、契之才却担当夔、契之任，并趁机指出如今海内无事却未立太子及以正人辅导是他对宣宗为政的主要担忧，宣宗也有所感动。虽然此后宣宗仍然未立太子，但时人都被魏谟感动了。不久，兼任集贤殿大学士，詹毗国进献大象，魏谟认为大象的性格不能安居中原，请求还给使者，宣宗同意了。
右卫大将军郑光请免所赐田租税，魏谟奏：“郑光以国舅之亲，赐田是可以的，免税就不能让百姓心服了。”宣宗下敕按例供税。河东节度使李业放纵吏民劫掠胡人，滥杀投降胡人，致使北疆不宁。但李业在朝中有靠山，未被处罚。只有魏谟敢于弹劾李业，要求完全罢免其职务；宣宗没有照做，只是派太子少师卢均取代李业，调李业至义成。魏谟被加中书侍郎。大理卿马曙被从人王庆告发私藏兵甲，马曙因此被贬官，王庆却无罪。魏谟引用法律，杖杀王庆。
魏谟进阶银青光禄大夫，兼礼部尚书，以银青光禄大夫、守中书侍郎、兼礼部尚书、同中书门下平章事、集贤殿大学士、上柱国被授监修国史，负责监修《文宗实录》，修成四十卷并呈上，因此和下属给事中卢耽、太常少卿蒋偕、司勋员外郎王沨、右补阙卢吉、膳部员外郎牛丛都获颁赐银器、锦彩有差，这些下属们也得到升迁。以银青光禄大夫、守门下侍郎、同平章事兼户部尚书。崔瑶调任鄂岳观察使，向魏谟奏请以薛崇为试大理评事、鄂岳观察判官。
魏谟仪容魁伟，其他宰相在宣宗面前议政时，为了不引起皇帝不悦，都委曲进言，只有魏谟敢直言，宣宗常说：“魏谟有祖上的风范，我很敬重他。”但魏谟也因此为宰相令狐绹所忌，被遣出长安为检校户部尚书、同平章事，兼成都尹，充剑南西川节度事大使、知节度副、管内观察处置统押近界诸蛮及西山八国云南安抚等使。魏谟染病，请求接任，宣宗准备召他回长安任吏部尚书，但魏谟称病，只求闲职，因而被任为检校右仆射、太子少保，卒，赠司徒。