李世民依仗洺水的险要，摆开军营来威逼刘黑闼，分别派遣突袭部队，截断他的运粮通道。刘黑闼又多次挑战，李世民坚守壁垒不应战，来挫伤他的锐气，刘黑闼城中的军粮已尽，李世民料定他必然要来决战，预先命人堵住洺水上游，对守堤的官员说，战斗打响时，等刘黑闼军过河走到河中间就挖开堤坝。刘黑闼果然率领步兵、骑兵两万人要过洺水摆阵，跟唐军大战，刘黑闼军溃不成军，河水又汹涌而来，刘黑闼的人马无法过河，被杀死一万多人，被淹死几千人，刘黑闼和范愿等带着一千多人逃往突厥。
刘黑闼借得突厥兵再起，侵犯山东，到了定州，他原来的将领曹湛、董康买以前逃亡在鲜虞，这次又招集人马响应刘黑闼。唐高祖任命淮阳郡王李道玄为河北道行军总管，与原国公史万宝讨伐刘黑闼。刘黑闼攻陷瀛州，杀死瀛州刺史马匡武，东盐州人马君德背叛唐朝，以东盐州归附刘黑闼。唐高祖派齐王李元吉统帅讨伐刘黑闼，刘黑闼军进攻鄃县，贝州刺史许善护战死，观州刺史刘君会反叛唐朝，投靠刘黑闼。
刘黑闼军与唐军李道玄部在下博交战，唐军战败，李道玄阵亡，史万宝轻装骑马逃了回去，洺州总管庐江王李瑗弃城西走，相州以北州县相继归附，十天时间全部收复原有城镇，又在洺州建都。刘黑闼军攻陷沧州，唐廷3次换帅，以皇太子李建成代替李元吉。
刘军攻陷恒州，杀刺史王公政，刘黑闼军攻打魏州不下，与建成、元吉大军相峙于昌乐。太子李建成督兵进讨，取得节节胜利，刘黑闼又在馆陶被唐军打得大败。刘黑闼带领队伍向北逃到了毛州，刘黑闼整顿部队，背靠永济渠列阵，建成、元吉联合组成一千多人的骑兵部队聚集在永济渠，经过一番猛烈冲刺搏杀，刘黑闼军被砍落水死的就有数千人，刘黑闼再次败逃，李建成命骑将刘弘基追击。
刘黑闼被刘弘基紧追不舍，得不到休息，路途遥远士卒疲劳，逃到饶阳时，跟着他的才一百多骑兵，大家都饥肠辘辘，想进城弄东西吃。刘黑闼委任的饶州刺史诸葛德威出城大礼迎接，请他们进城，刘黑闼开始不同意，诸葛德威假装真诚恭敬，哭着坚持邀请，刘黑闼才走进城门，诸葛德威就指挥部队拘捕了他，送到李建成面前。李建成在洺州将刘黑闼及弟刘十善一并斩首，从此山东平定。