接下來，文官武將們充分發揮自己的聰明才智，爲大將軍出謀劃策。坐在李世民身邊的馬軍總管柴紹沉思了好一會兒，然後對李淵說：
“大將軍，我軍面臨的不僅僅是宋老生，還有河東的屈突通。倘若我等不能設法控制住屈突通，那他必定會率兵增援霍邑。兩兵合在一處，這對我軍極爲不利。在下想，我軍得分兵繞前切斷宋老生的外援，請大將軍定奪！”
“柴將軍考慮得周全，假若我軍能先派一支精銳部長越過霍邑，埋伏於要塞。到時不僅可以切斷屈突通的援軍，還可以形成前後夾擊之勢。”李世民贊成姐夫柴紹的想法，大聲說道，“請大將軍派一員大將引兵乘夜繞過霍邑，埋伏於要道之中，以作他用。”
李淵聽女婿和兒子這麼一說，甚覺言之有理，就微微一點頭。沉默片刻，他掃視了圈身披鎧甲的武將，高聲問：
“各位將軍，請問誰肯建此大功？”
話音未落，王長諧應聲而起，對李淵一拱手道：
“在下願領兵前往，請大將軍應允！”
李淵兩眼注視着牛高馬大的統軍王長諧，心中甚爲歡喜。他一向賞識王長諧武藝高強，驍勇善戰。不過，他也時常覺得此人不夠沉穩，智謀不足。他擔心王長諧會因一時魯莽而誤了大事，因此便決定派善於謀略的唐儉隨同輔佐他。
王長諧滿心歡喜，深施一禮，然後拉着唐儉一道步出帳營，準備召集自己一班人馬，趁着朦朧的月光潛出霍邑。
李淵目送走王長諧和唐儉，又默然不語地低眉思索着。幾分鐘過後，他才嘆口氣對衆將說：
“本公真想一舉拿下霍邑，然後揮師長安，怎奈宋老生閉門不出，欲使我軍不戰自退。各位對此有何良策，說說吧！”
言罷，李淵又將目光投向身旁的裴寂。在李淵眼裡，裴寂就是他的軍師，如同劉備身邊的諸葛亮。不過，這一回裴寂似乎腦子短了路，一時間竟沒覓得妙計。當眼光與大將軍對視之時，他不免露出絲尷尬之色。
恰好這時，李建成開口說話了。他轉動着兩隻帶着血絲的大眼睛，盯住跟前的父親高聲說：
“宋老生不肯出戰，那我們就派輕騎兵挑戰他。宋老生此人有勇無謀，且性情急躁，稍加激怒，必定會挺槍而出。”
“大哥說的對。”李世民連忙附和道，“宋老生只是一介武夫，不懂謀略。我們一邊派兵向他挑釁，一邊散佈謠言，說他不肯出城迎戰是因爲他暗通我軍。如此一來，宋老生的部下一定會對他心生懷疑。宋老生爲了穩住軍心，同時不爲皇上所加害，必定會出城與我軍交戰。”
“大都督此計實爲妙呀！”劉弘基喜不自禁地讚道，“當今皇上本就多疑，此謠言一出，即便宋老生不出兵，皇上也會逼他出戰。”
“不錯，在下敢肯定宋老生一定中計，傾力而出，與我軍交戰。”長孫順德十分肯定地對李淵說，“大將軍，就照兩位大都督說的辦，一定能成！”
李淵考慮了良久，也認爲李建成兄弟倆的計策確實不錯。不過，他還是想徵詢一下裴寂的意見，便笑望着裴寂低聲問句：
“裴監，你覺得此計如何？”
“大都督真是將才啊，此計絕妙！”沉吟了片刻，裴寂答道，“大將軍，裴寂以爲，只要按二位大都督所說的去做，理應能誘敵而出。”
“好，那就這麼定了！”李淵毫不遲疑地做出決定，緊接着又對劉政會說，“劉大人善於策反，這反間計就由你來實施，如何？”
“在下遵命！”劉政會起身拱手施禮，高聲回答。
“建成、世民，你們倆負責帶兵挑戰宋老生，務必盡力激怒對方，令他心生浮躁，有出戰之意。”隨後，李淵又交代自己的兒子們。
“請大將軍放心，在下一定完成任務！”李建成兄弟倆幾乎是不約而同地回答父親。
李淵滿意地點點頭，接着又向其他將領安排了一通作戰任務。完畢，李淵就用溫和的口氣請各位回營歇息。於是，衆人紛紛起身，離席而去。
大家走後，李淵並沒有解衣休息。他是個謹小慎微的統帥，尤其是在臨戰前的關鍵時刻，尤爲慎重，生怕出一點點紕漏。因此當下他領着侍從，踏着一地淡淡的月光，逐一巡視軍營，撫慰將士。直到所有的營寨視察了遍，他才安心回自己的軍營歇息。
第二天，各將領依計行事。李淵率一小股騎兵來到霍邑城東面幾裡外的山林間埋伏，以待步兵接應。與此同時，李建成和李世民率軍至城下，擂鼓吶喊，擺出圍城決戰的架式，以誘隋軍出城。然時至晌午，未見城內有任何動靜。這令李建成焦急萬分，卻又一時想不出誘敵出洞的招數。李世民舉頭仰望着城門上嚴防死守的敵軍，也是急得團團直轉，忍不住就開口罵了句粗話。這一罵居然罵出了對策，李世民靈機一動，當即就吩咐士兵扯開喉嚨對着城牆上的守軍破口大罵。
謾罵聲隨風鑽進隋軍守城將士的耳朵裡，如同一根根尖銳的針錐，直刺得他們齧牙咧嘴，暴跳如雷。於是，他們忍受不了越來越難聽的叫罵，一窩蜂涌到上來視察軍情的統帥宋老生跟前，請求開門迎戰。
宋老生高高挺立在城門之上，聽着敵軍無比刺耳的辱罵，心裡頭頓時火起。那一刻，他真想開口下令開門出戰，以雪恥辱，卻被隨身而來的謀士蘇子才勸住。宋老生生怕中了李淵的奸計，想了想也就忍住了氣，回身朝自己的營帳走去。李世民發覺辱罵效果並不湊效，就令士卒打住。
李建成在馬背上跟二弟李世民商量了幾句，然後就命令所有的士兵卸甲席地而坐，彼此嬉戲，裝出副懈怠的模樣，以迷惑城頭守軍。
一多時辰過後，城上守軍依然如故，沒發生任何異樣舉動。從中李世民便感覺到宋老生並沒有被辱罵激怒，仍舊按兵不動。這可把李世民急壞了，在草色枯黃的城牆下不停地踱來踱去，活像只熱鍋上的螞蟻。