十二月十五日，李逍遙派遣秦瓊、程咬金、羅士信等人率領大軍征討劉黑闥。劉黑闥得知李唐大軍即將殺來，更是毫無顧忌地放手一搏，兵鋒不減；十二月十七日至十九日，三天之內劉黑闥率領大軍又接連攻陷邢州、魏州、莘州，殺了魏州總管潘道毅。半年之間，便全部恢復了竇建德原先的地盤。
武德五年正月，劉黑闥在相州自稱漢東王，建年號爲天造，任命範願爲左僕射，董康買爲兵部尚書，高雅賢爲右將軍，將竇建德的夏政權文武官員全部恢復原職，定都洺州；建立法規主持政務，全部效法夏政權的制度。
二月，秦瓊、程咬金、羅士信等人率領大軍討伐劉黑闥，軍隊駐紮在衛州，劉黑闥多次派兵挑戰，都被唐軍挫敗。劉黑闥見識到秦瓊等人的勇猛之後，心生怯意，決定放棄相州，撤退到列人營設防守衛。這時洺水縣的人要求當劉黑闥的內應，在他們的心目中，李唐大軍纔是外來者，秦瓊准許總管羅士信主動請纓進城據守，羅士信臨行前立下軍令狀定要拿下劉黑闥的人頭。
羅士信率領五千餘唐軍聽從秦瓊的命令進入洺水縣城，卻不知危險降臨，城中百姓早已投靠於劉黑闥，成爲他的內應。劉黑闥退守到列人營後，靜靜地等待着時機一舉攻下城池，活捉羅士信，消滅唐軍。衆人神色緊張地焦急的等待着，徐圓朗與高談聖心急如焚地看着劉黑闥，徐圓朗低聲道：“漢東王，唐軍總管羅士信武藝驚人，就憑我等這些人實在是難以抵抗，不知有何良策破敵？”
劉黑闥緊鎖眉頭，淡然一笑道：“唐軍兵強馬壯，僅憑我軍不足以與他們正面交鋒。不過，朕已經在洺水縣城留下伏兵，到時候自然會管用，養兵千日用兵一時，相信這支突襲軍必定狠狠地給唐軍一個教訓。衆位兄弟不必心急，時機成熟，我軍必定會再次佔領城池，唐軍不足爲懼！”
高談聖詫異地問道：“不知漢東王在城中留下什麼樣的後手？”
劉黑闥神秘兮兮地邪笑道：“衆位兄弟到時候自然知曉，朕此次必定讓羅士信將自己的性命留在洺水城，你們到時候坐上壁觀，不費吹灰之力就可以消滅整個數千人的唐軍。”衆人面面相覷，皆是疑惑不解，不知道劉黑闥的自信來自於何處，只聽劉黑闥繼續分析道：“唐軍與我軍數次交鋒，皆是大勝而歸，而今又佔據着洺水縣城，據城以守，想要截斷朕的軍隊後路，熟不知秦瓊此行卻犯了大忌。”
“羅士信乃是驍勇善戰的將領，我軍之中甚少有人能與他抗衡。若是羅士信在城外與我軍交鋒，我軍必定大敗而歸。可是，朕萬萬沒有料到，羅士信會主動請纓鎮守洺水城，猶如一隻野獸被困在牢籠之中，他還能發揮多大的力量，還不是任由我們宰割。諸位難道忘記了，洺水城曾是我們的天下，城中我方的探子遍佈整個城池。當初，逍遙王在李密身邊派往多人作爲內應，如今，朕依樣畫葫蘆，給羅士信一個大大的驚喜。”
正如劉黑闥分析的那樣，羅士信的確勇猛，卻無法與擅於計謀的劉黑闥相提並論。當初退守列入營實屬無可奈何，熟不知給了劉黑闥翻盤的機會。劉黑闥撤離之前，將內應放在城中，以爲沒有多大的作用，沒想到關鍵時刻，還得靠他們。在洺水縣城中只有一條可以飲用的河流，劉黑闥臨行前給了內應數量極大的蒙汗藥，命他們找個恰當的時機投入河中，待李唐大軍飲用後，必定猶如死豬一樣，酣睡如雷。
內應在唐軍全神貫注地防備劉黑闥大軍時，疏於防範，使得飲用的水井全部都被內應們投入了蒙汗藥。隨即，臨近午飯時間，唐軍士兵紛紛吃飽喝足，不消片刻，他們只覺得自己的眼皮很是沉重，倒地昏睡而去，就連羅士信都覺得自己非常的睏乏，待劉黑闥率領大軍進入城門後，他知道自己被人下了蒙汗藥，想要反擊卻沒有任何的力氣了。
劉黑闥等人望着全身無力倒地不起的羅士信以及數千名唐軍，肆意的大笑起來，然後他命令士兵直接將唐軍全部捆綁起來。劉黑闥再次收復了洺水縣城，羅士信被劉黑闥五花大綁的，想要招降於他，寧死不從，憤怒之下的劉黑闥，直接將羅士信押赴城門上，恰逢其時，秦瓊、程咬金等人率領大軍前來，準備與羅士信一同鎮守洺水縣城，抵達城下時，卻看見羅士信被劉黑闥生擒，衆人皆是大驚失色，他們憤怒地看着劉黑闥等人，咬牙切齒地瞪着他們，在衆目睽睽之下，劉黑闥命令麾下士兵手起刀落，羅士信被斬殺於洺水城上，於是劉黑闥據守洺州。
秦瓊、程咬金眼睜睜的看着羅士信被劉黑闥斬首示衆，而且是當着他們兩人的面，憤怒無比的他們兩人不惜一切代價誓要殺死劉黑闥等人。無奈，劉黑闥重新佔領洺水縣城，憑藉着洺水的險要，硬是無法攻破城門，而且唐軍死傷不計其數，最後秦瓊、程咬金只能將洺水縣城團團圍住，一字兒擺開軍營來威逼劉黑闥，分別派遣突襲部隊，截斷劉黑闥的運糧通道。
三月，李逍遙率領大軍奔赴而來，抵達洺水縣城，李玄霸也單槍匹馬的趕到此地。當他們看見出門相迎的只有秦瓊、程咬金、尉遲敬德等人前來，卻不曾見到羅士信的身影，而且李逍遙瞥見衆人臉上的哀傷之情，他憤怒地大吼一聲：“劉黑闥，本王要你陪葬！”
衆人淚流滿面地低下頭，就連李玄霸都一臉的哀傷，他知道羅士信被劉黑闥等人斬殺了。李逍遙推演出羅士信有難，就名人八百里加急傳書，命令尉遲敬德率領一萬大軍增援，以防不測，仍然是晚到了一步。李逍遙神情哀傷，怒氣衝衝地注視着洺水縣城，疾言厲色道：“秦二哥，士信是如何死的？”
秦瓊單膝跪地，雙眼通紅的看着李逍遙，自責道：“少主，末將不知城中有劉黑闥的內應，士信誤中蒙汗藥，無力一戰纔會被劉黑闥所擒。若是末將不同意士信主動請纓鎮守洺水城，以防劉黑闥大軍再次來襲的話，士信就不會慘遭殺害！末將失職，還請少主責罰！”
“責罰，責任你，士信就能活過來嗎？”李逍遙疾言厲色地怒吼一聲，他知道羅士信慘遭殺害，最痛心的是秦瓊，兩人一起長大，親密無間，羅士信又跟隨着秦瓊身邊南征北戰，親如兄弟，李逍遙知道秦瓊看似風輕雲淡，實際上是痛心疾首，他猛地大喝一聲道：“衆將士聽令，明日午時點兵出發，攻打劉黑闥。無論是誰將劉黑闥活捉，擢升三級，賞銀百兩！”
衆人鄭重其事地異口同聲道：“末將得令！”
羅士信年僅二十三歲，就死在劉黑闥的手中，憤怒無比的李逍遙直接懸賞，軍中官職無論大小，只要活捉劉黑闥等人者，一律擢升三級。一時之間，衆將士羣情激奮。次日，李逍遙親自率領大軍攻打城門，劉黑闥的軍糧已經耗盡，無奈之下，親自率領大軍與李逍遙正面交鋒，而且李逍遙命令秦瓊等人率領一部分用沙袋直接堵住洺水的上游，待戰鬥打響時，劉黑闥率領步兵、騎兵兩萬餘人想要度過洺水擺陣，跟唐軍大戰。
劉黑闥率領大軍剛剛度過一半，李逍遙直接命人將堵住的沙袋全部撤離，河水積聚起來形成巨大地推動力，洶涌澎湃而來，使得劉黑闥的人馬無法過河，瞬間就被淹死了數千人；李逍遙親自率領大軍痛打落水狗，殺死了一萬多人，使得劉黑闥的大軍潰不成軍，節節敗退，劉黑闥趁亂與高談聖、徐圓朗等人率領一千餘人避開李唐大軍的耳目，逃亡突厥。
突厥大軍被李靖、徐懋功兩人抵禦，無法完全進入到華夏國內，全部擋在塞外。頡利可汗暴跳如雷之際，聽聞劉黑闥等人前來找尋自己，大喜過望。之前被李靖、徐懋功兩人率領唐軍抵禦住突厥軍，他心中的鬱悶，一掃而光，親自出帳迎接，笑道：“貴客來臨，朕有失遠迎，還望包涵！”
劉黑闥等人見頡利可汗如此客氣，受寵若驚地急忙躬身回禮，劉黑闥開門見山地說道：“此次前來，是有事相求，不知可汗是否答允？”
頡利可汗心知肚明，劉黑闥等人的來意，氣定神閒地裝作茫然不知的樣子，疑惑道：“哦，漢東王前來所爲何事，但說無妨！只要朕能做得到的，定當竭盡全力，絕不食言！”
“本王想向可汗陛下借一支萬人突厥鐵騎，助本王東山再起！”劉黑闥恭敬地懇求道，“本王與李唐兩虎相爭，華夏大地大部分被李唐佔據着。李淵此人忘恩負義，軟弱無能，根本就沒有任何的大才，不配稱帝。本王今日斗膽向可汗陛下借用突厥鐵騎，他日本王推倒李唐統治，願意割讓鄰近突厥方圓百里之地，不知可汗陛下意下如何？”
“好，漢東王如此有誠意，朕就借兵與你一用！”頡利可汗拍手稱讚道。
事實上，頡利可汗知道劉黑闥的來意，也準備借兵與他，只不過身爲突厥國君，以國家利益爲重。劉黑闥巧言善變，懂得觀察頡利可汗的心思，知道他對於李淵之前俯首稱臣，李唐強盛時，又翻臉不認人之事，一直都是耿耿於懷，他所言正中下懷，因此兩人達成協議，劉黑闥允諾割讓土地，頡利可汗直接給了他兩萬餘突厥大軍，供其驅使。
武德五年六月，劉黑闥借得突厥兵再起，侵犯山東；七月，劉黑闥到了定州，他原來的將領曹湛、董康買以前逃亡在鮮虞，這次又招集人馬響應劉黑闥。十五日，唐高祖任命淮陽郡王李道玄爲河北道行軍總管，與原國公史萬寶討伐劉黑闥。
九月，劉黑闥攻陷瀛州，殺死瀛州刺史馬匡武，東鹽州人馬君德背叛唐朝，以東鹽州歸附劉黑闥。十月初一，唐高祖派齊王李元吉統帥討伐劉黑闥。初五，劉黑闥軍進攻鄃縣，貝州刺史許善護戰死；初六，觀州刺史劉君會反叛唐朝，投靠劉黑闥；十七，劉黑闥軍與唐軍李道玄部在下博交戰，唐軍戰敗，李道玄陣亡，史萬寶輕裝騎馬逃了回去。
洺州總管廬江王李瑗棄城西逃，相州以北州縣相繼歸附，十天時間全部收復原有城鎮，又在洺州建都；十一月初三，劉黑闥軍攻陷滄州。初七，李逍遙親自率領大軍再次追擊劉黑闥，勢必要將他斬殺，只不過劉黑闥聽聞李逍遙之名，就望風而逃，不願與李逍遙率領的大軍正面交鋒，再突厥大軍的幫助下，劉黑闥的大軍攻陷恆州，殺死刺史王公政，又接着攻打魏州。
終於，在魏州被李逍遙率領大軍圍攻，被逼無奈之下，劉黑闥只能率領大軍與李逍遙正面交鋒了。縱然在突厥大軍的幫助下，仍然無法與李逍遙率領的大軍相抗衡，節節敗退，使得突厥將領紛紛震驚不已，他們才恍然大悟，知道李逍遙率領的大軍根本就不像之前的大軍那樣，隨意的碾壓，此次他們是踢到了鐵板上。
劉黑闥只能不斷地後退，李逍遙率領大軍緊追不捨，之前討伐時，被劉黑闥逃走，如今哪裡再會放虎歸山留後患。於是，兩軍又在館陶交戰，劉黑闥的大軍被唐軍打得大敗。他只能帶領隊伍向北逃到了毛州，劉黑闥整頓部隊，背靠永濟渠列陣；李唐大軍隨即趕到，雙方再次大戰，經過一番猛烈衝刺搏殺，劉黑闥軍被砍落水死的就有數千人，劉黑闥再次敗逃。
李逍遙任命秦瓊率領騎兵追擊，劉黑闥被秦瓊緊追不捨，得不到休息，路途遙遠士卒疲勞。武德六年正月初五，劉黑闥逃到饒陽時，繼續跟隨於他的只有一百多騎兵，大家都飢腸轆轆，想進城弄東西吃。劉黑闥委任的饒州刺史諸葛德威出城大禮迎接，請他們進城。劉黑闥開始不同意，諸葛德威假裝真誠恭敬，哭着堅持邀請。劉黑闥才走進城門，諸葛德威就指揮部隊拘捕了他，送到秦瓊面前。
二月，李逍遙在洺州將劉黑闥及其弟劉十善一併斬首，山東平定。徐圓朗聞得劉黑闥死訊，棄城而逃，途中爲村民所殺。至於高談聖則選擇與李唐大軍做最後的生死決戰，在雄闊海以及蓋世雄兩人的帶領下，繪聲繪色的與李唐大軍交鋒，佔據上風，李逍遙再次出兵攻打高談聖，李玄霸直接三錘子雄闊海打死，秦瓊又槍挑蓋世雄，程咬金與尉遲敬德直接將高談聖殺死，使得最後的反唐勢力消失的無影無蹤。
武德七年，即公元624年，大唐終於一統天下，真正的將紛亂的羣雄割據的時代終結，成爲真正無人撼動的強盛龐大的帝國，也成爲華夏大地的掌權者，大唐帝國正式成爲歷史中新的國家，也使得唐高祖李淵成爲大唐帝國的開國君主，天下真正的成爲李家的天下，楊氏江山再無蹤影，而且李淵手中握有傳國玉璽，象徵着君權至高無上，他是真命天子，在無人敢反唐，真正的號令天下。