后来,李神通与同安公主等人一同,从窦建德处回到唐朝朝廷,唐军消灭窦建德,李神通再次担任河北道行台尚书左仆射。唐朝在洺州设置山东道行台,任命李神通为山东道行台尚书右仆射,李神通率领关内兵众到冀州,与李艺兵合。又征发邢、洺、相、魏、恒、赵等州兵众共计五万多人,与刘黑闼在饶阳城南交战,李神通大败,兵马和军需物资损失三分之二。
朝廷派李神通率军攻打徐圆朗,秦王李世民攻打徐圆朗,夺取十几座城池,声势震动淮水、泗水地区,杜伏威很恐惧,请求入朝。李世民因淮河、济河之间已大致平定,让李神通与行军总管任瑰、李世积攻打徐圆朗,李神通跟随秦王李世民消灭刘黑闼,因功升任左武卫大将军。
李世民通过玄武门之变夺取帝位,李神通虽未参加玄武门之变的策划,但他素来与李世民关系友善,事发之前曾与李世民夜饮,并护送李世民返回府邸。唐太宗李世民与群臣当面议定开国元勋长孙无忌等人的爵位食邑,命陈叔达在宫殿下唱名公布,唐太宗李世民说:“朕分等级排列你们的功劳赏赐,如有不当之处,可以各自申明。”于是,各位将领纷纷争功,议论不休,李神通说:“我在关西起兵,首先响应义旗,而房玄龄、杜如晦等人只是捉刀弄笔,功劳却在我之上,我感到难以心服。”
唐太宗说:“叔父虽然首先响应义旗举兵,这也是自谋摆脱灾祸,等到窦建德侵吞山东,叔父全军覆没;刘黑闼再次纠集余部,叔父丢兵弃甲,望风脱逃。房玄龄等人运筹帷幄、决胜千里,使大唐江山得以安定,论功行赏,功劳自然在叔父之上。叔父您是皇族至亲,朕对您确实毫不吝惜,但不可循私情滥与有功之臣同等封赏。”
李神通担任开府仪同三司,赐封食邑五百户,在长安去世,时年五十四岁,朝廷追赠他为司空,谥号靖。唐太宗下诏让李神通与河间王李孝恭、郧节公殷开山、渝襄公刘政会配享唐高祖庙庭。