唐文宗李昂即位，召李绛为太常卿，进封魏国公，以检校司空衔出任兴元尹、山南西道节度使，累封为赵郡公。
南蛮进犯蜀地，李绛奉诏赴西蜀救援，在山南西道招募兵卒千人赴蜀，行至中途，蛮军已退，所募兵卒都返回。山南的兵额素来有规定，招募的兵卒应该全部退伍回家，李绛晨起理事，召集募卒，说根据诏令遣返他们，依例发给粮饷，募卒一个个怏怏而退。监军使杨叔元贪财恃宠，怨恨李绛不奉敬自己，于是趁募卒嫌赏赐微薄、众口喧嚷之际，煽动募卒作乱，以泄私愤，募卒喧噪聚集涌向府署，劫夺库中兵器冲入使衙。
李绛正与幕僚会宴，来不及防备，听说叛乱立即北逃，登上女墙，衙将王景延力战抵御乱兵，最终力竭战死。左右将校请李绛缒城出逃，被他拒绝，李绛随即与幕僚赵存约、薛齐一同遇害，终年六十七岁。杨叔元谎奏李绛收取新军士卒赏赐钱物，以致兵乱被杀，而三高官官为李绛诉冤，谏议大夫孔敏行奏呈杨叔元激怒乱兵事实，文宗方知真相，册赠李绛为司徒，谥号贞，并赐其家属布帛三千段、米粟二百石，李绛本拟与李岘等三十七人共绘像于凌烟阁，但他的画像最终被唐宣宗留在宫中。
尚书右丞温造奉命出任山南西道节度使，定计诛杀乱兵八百余人，囚禁杨叔元，温造将手刃李绛的人，剁为肉酱；并将发布杀害李绛命令的人，处以极刑。取一百首级祭奠李绛，三十首级祭奠王景延等人，其余的全部投入汉江，杨叔元最终被流放康州，时人以温造不杀杨叔元为遗恨。
李绛，潜心匡时济世，屡屡上疏，常以唐玄宗先治后乱的历史经验为借鉴，用治生于忧危，乱生于放肆的道理劝谏宪宗，劝其选贤举能，任贤政治，并提出贤则当任，任则当久的主张，他任宰相期间，曾多次建议唐宪宗削藩平党，并积极参与谋划，利用藩镇内部矛盾，使魏博节度使田兴听命朝廷，在一定程度上消弱了藩镇势力。