秦王府的幕僚屬官人人憂慮，個個恐懼，不知所措。行臺考功郎中房玄齡對比部郎中長孫無忌說：“現在仇怨已經造成，一旦禍患暗發，豈只是秦王府不可收拾，實際上社稷的存亡都成問題。
不如勸說秦王採取與周公平定管叔、蔡叔相似的行動，以便安定皇室與國家。存亡的樞機，形勢的危急，就是現在了！”
無忌說：“我有這一想法已經有很長時間了，只是不敢說出口。現在你說的這一席話，正好符合我的心願。請讓我代您稟告秦王。”
於是，長孫無忌進入李世民的臥室告訴了李世民。李世民把房玄齡召來商議此事，房玄齡說：“大王功蓋天地，應當繼承皇帝的大業。現在大王擔心危機發生，正是上天在幫助大王啊。希望大王不要疑惑不定了。”於是，房玄齡與秦王府屬官杜如晦共同勸說李世民誅殺李建成、李元吉。
李建成、李元吉因爲秦王府擁有許多驍勇的將領，打算引誘他們爲自己所用，便暗中將一車金銀器物贈送給左二副護軍尉遲恭，並且寫了一封書信招引他說：“希望得到您的屈駕眷顧，以便加深我們之間的布衣之交。”
尉遲恭推辭說：“我是編蓬爲戶、破甕作窗人家的小民，遇到隋朝末年戰亂不息、百姓流亡的時局，長期淪落在抗拒朝廷的境地裡，罪大惡極，死有餘辜。
秦王賜給我再生的恩典，如今我又在秦王府註冊爲官，只應當以死報答秦王。
我沒有爲殿下立過功，不敢憑空接受殿下如此豐厚的賞賜。倘若我私自與殿下交往，就是對秦王懷有二心，就是見利忘義的小人，殿下要這種人又有什麼用呢！”
李建成大怒，便與他斷絕了往來。尉遲恭將此事告訴了李世民，李世民說：“明公對我的忠心就像山嶽那樣堅實牢靠，即使他贈送給您的金子堆積到了北斗星，我知道明公的忠心還是不會動搖的。他贈給您什麼，您就接受什麼，這又有什麼值得猜疑的呢！況且，這樣做能夠了解他的陰謀，難道不是一個上好的計策嗎！否則，禍事就將降臨到您頭上了。”
不久，李元吉指使勇士在夜間刺殺尉遲恭，尉遲恭得知這一消息以後，將層層門戶敞開，自己安然躺着不動，刺客屢次來到他的院子，終究沒敢進屋。於是，李元吉向高祖誣陷尉遲恭，把他關進奉詔命特設的監獄裡審問處治，準備將他殺掉，由於李世民再三請求保全他的生命，這才得以倖免。
李元吉又誣陷左一馬軍總管程知節，高祖將他外放爲康州刺史。程知節對李世民說：“大王的輔佐之臣快走光了，大王自身又怎麼能夠長久呢！我誓死不離開京城，希望大王及早將定下計策。”
李元吉又用金銀絲帛引誘右二護軍段志玄，段志玄不肯從命。李建成對李元吉說：“在秦王府有智謀才略的人物中，值得畏懼的只有房玄齡和杜如晦。”李建成與李元吉又向高祖誣陷他們二人，使他們遭到斥逐。
李世民的心腹只剩下長孫無忌還留在秦王府中，他與他的舅舅雍州治中高士廉、右候車騎將軍三水人侯君集以及尉遲恭等人，日以繼夜地勸說世民誅殺李建成和李元吉，李世民猶豫不決。
此外李世民可能還曾向靈州大都督李靖、行軍總管李勣問計。
武德九年六月初一丁巳日（626年6月29日），太白金星在白天出現於天空正南方的午位， 按照古人的看法，這是“變天”的象徵，是暴發革命或當權者更迭的前兆，代表要發生大事了。
適逢突厥鬱射設帶領數萬騎兵駐紮在黃河以南，突入長城邊塞，包圍烏城，太子李建成便推薦齊王李元吉代替秦王李世民都督各路軍馬北征以抵抗突厥入侵。
高祖聽從了他的建議，命令元吉督率右武衛大將軍李藝、天紀將軍張瑾等人援救烏城。
李元吉乘機請求讓尉遲恭、程知節、段志玄以及秦王府右三統軍秦瓊等人與自己一同前往，檢閱並挑選秦王帳下精銳的兵士以增強自己軍隊的實力。在太子的東宮中擔任率更丞（主管計時的官員）職位的王晊，已被秦王李世民收買，成爲李世民在東宮的眼線，他悄悄告訴李世民：“太子對齊王說：‘現在，你已經得到秦王驍勇的將領和精銳的士兵，擁有兵馬數萬之多了。我與秦王在昆明池爲你餞行，讓勇士在帳幕裡將秦王殺死，上奏父皇時就說他暴病身亡，父皇應該不會不相信。我自當讓人進言，逼父皇將國家大事交給我處理。尉遲恭等人已經落到了你的手中，應該將他們悉數坑殺，誰敢不服！’”
李世民將王姓官員的話告訴了長孫無忌等人，長孫無忌等人勸李世民先發制人。李世民嘆息道：“骨肉相殘，是古往今來的大罪惡。我當然知道禍事即將來臨，但我打算在禍事發生以後，再舉義討伐他們，這不也是可以的嗎！”
尉遲恭說：“作爲人之常情，有誰能夠捨得去死！現在大家誓死侍奉大王，這是上天所授。禍事馬上就要發生，大王卻仍舊神態自若，毫不擔憂。即使大王把自己看輕，又怎麼對得起宗廟社稷呢！如果大王不肯採用我的主張，我就準備逃身荒野草澤，不能留在大王身邊，拱手任人宰割！”
長孫無忌說：“如果大王不肯聽從尉遲恭的主張，事情肯定要失敗了。尉遲恭等人肯定不會再追隨大王，我也應當跟着他們離開大王，不能夠再事奉大王了！”
李世民說：“我講的意見也不能完全放棄，明公再計議一下吧。”
尉遲恭說：“如今大王處理事情猶豫不定，這是不明智的；面臨危難，不能決斷，這是不果敢的。況且，大王平時畜養的八百多名勇士，凡是在外面的，現在都已經進入宮中，他們穿好盔甲，手握兵器，起事的形勢已經形成，大王怎麼能夠制止得住呢！”