武德四年，七月十九日，劉黑闥於貝州起事，祭奠竇建德，自封大將軍，正式反唐。
消息傳出，舉國皆驚。劉黑闥本是竇建德的部將，李淵下令將竇建德斬首後，劉黑闥既憤怒，又害怕不能自保，於是召集竇建德舊部起兵，殺死唐朝官員，先後佔據歷亭、瀛州、觀州、定州、冀州、邢州、魏州、莘州等地。短短半年之間，劉黑闥就攻取了當年竇建德所佔據的地盤。
武德五年正月，劉黑闥於相州自稱漢東王，建年號爲天造，定都洺州，並且將以前竇建德任命的夏國文武官員，全部官復原職。一個新的政權，竟然在大唐的眼皮子底下建立了。
李淵見狀自然是龍顏大怒，好不容易平定了王世充和竇建德，卻又冒出來了一個劉黑闥。李建成和李世民都主動請纓，李淵雖然也想讓太子立功，但是擔憂劉黑闥來勢洶洶，還是命秦王李世民前去討伐劉黑闥。
三月，李世民帶兵於劉黑闥在洺水交戰，李世民倚仗洺水地勢的險要，重創了劉黑闥軍。河水洶涌湍急，劉黑闥進退兩難，潰不成軍。最終劉黑闥與範願等以千餘人奔於突厥，山東悉定。
洺水之役，斬首萬餘級，溺死者數千人，秦王李世民又立下了一大功勞。太子李建成問計於魏徵，憂心忡忡地說道：“非我怯戰，只是父皇並不相信我的能力。看來父皇，是對我不抱希望了。”
“殿下和秦王，一個能文，一個能武。劉黑闥來勢洶洶，陛下久經戰場，深知戰事險惡，故而駁回殿下您請戰的奏疏。”魏徵分析道，“陛下並非放棄殿下，而是對殿下寄予厚望，這才保全殿下。”
“戰事怎麼可能不兇險，只是父皇溺愛於我，我何時才能立下戰功？”李建成問道。
“殿下勿憂，陛下比殿下更急於想讓您立下戰功，只可惜時機未到。”
“何時纔是真正的時機？”
魏徵笑道：“殿下，無論何時，您都要積極請戰。陛下同意不同意並不重要，重要的是殿下您的態度。”
“先生一言，令孤恍然大悟。”李建成拱手道，“多謝先生教誨。”
魏徵猜測的不錯，比起李建成，李淵更着急讓大兒子立下戰功。在劉黑闥一戰中，他看到太子請戰的奏疏，龍心大悅，差一點就准奏了。只是李淵冷靜的分析了當時的戰況，保守起見，還是讓李世民出兵討伐。畢竟在戰事上，二郎確實比大郎厲害許多。
裴寂得知後，唉聲嘆氣道：“陛下啊，您就是對這幾個兒子太好了，纔會導致如今的局面。父母之愛子，則爲之計深遠。陛下可有想過，您百年之後，太子如何自處，秦王又如何自處？您不僅是一個父親，更是他們的君主，請陛下以天下大局爲重。”
君父君父，君在前，父在後。先是君臣，再是父子。
然而李淵畢竟是開國皇帝，在他心中，他和三個兒子，先是父子，再是君臣。李淵並沒有真正意識到身份的轉變，他經常回想起當年稚子承歡膝下，妻子陪伴左右的那段靜謐時光。他愛大郎，也愛二郎，李淵想要一碗水端平，然而在帝王之家，是永遠不可能的。
李淵是個好父親，卻不是個好皇帝。
就在太子一黨的人都在暗暗惋惜之時，可能是上天開眼，並沒有絕斷太子立功之路。武德五年，六月，劉黑闥復借兵於突厥，來寇山東。
此等天賜良機，正是魏徵之前說的“真正的時機”，他立刻抓住機會，拉上王珪，一起向李建成進言。
魏徵道：“殿下但以地居嫡長，爰踐元良，功績既無可稱，仁聲又未遐布。而秦王勳業克隆，威震四海，人心所向，殿下何以自安？今黑闥率破亡之餘，衆不盈萬，加以糧運限絕，瘡痍未瘳，若大軍一臨，可不戰而擒也。願請討之，且以立功，深自封植，因結山東英俊。”
這一次，李建成再次請戰，李淵又陷入了猶豫之中。
裴寂苦口婆心道：“劉黑闥不過是負隅頑抗，早已註定敗局，陛下何不讓太子殿下試一試？”
“劉黑闥不足爲懼，可是他借了突厥的兵力，不可小覷。”
“陛下就算不準備讓太子出征，也萬萬不可再用秦王。”裴寂說道，“不如，命齊王爲主帥，前去討賊。”
“四郎？”李淵沒想到裴寂竟然提議讓李元吉出征。
裴寂解釋道：“齊王這些年，經常跟着秦王出征，雖然戰績不如秦王，但也學到了不少本領。”
“要不是二郎罩着，朕怎麼放心他出去打仗。”李淵擺手道，“齊王做統帥還是太早了，他還不能獨當一面。”
由於當年李玄霸的死因成謎，李元吉又恰好在現場，於是齊王向來不被父親看重，被放養成了無法無天的小霸王。後來李淵不是沒有讓給李元吉歷練的機會，讓他留守太原，結果李元吉在武德二年，把太原給丟了。
當時李淵差點沒被氣死，要不是左右求情，李淵定要狠狠打一頓李元吉。後來李元吉收斂了一些，不敢在父親眼皮子底下胡作非爲。
現在裴寂又勸李淵重用李元吉，而李元吉自己也上表，請求出戰。李淵思前想後，終於同意齊王李元吉討劉黑闥。然而他並不知道的是，齊王早就是太子陣營中的人了，裴寂推出了齊王，爲的就是給太子鋪路。
李元吉的戰績果然如李淵所料，可以說是慘不忍睹。劉黑闥兵鋒不減，李元吉被打得節節敗退。旬日間劉黑闥悉復故城，復都洺州。
李淵大怒，李建成和李世民都上疏請戰。十一月，劉黑闥陷滄州。時局危急，在裴寂等人不斷的勸諫下，李淵終於狠下心，下令讓太子李建成代替李元吉，成爲主帥。
幾經周折，李建成終於得到了出征的機會。然而更重要的是，李建成輸不起，此戰必須勝。
裴寂建議李建成帶上太子洗馬魏徵，雖然魏徵是文臣，但是他畢竟跟隨過李密、竇建德，在行軍打仗上應該不遜於其他謀臣。