仁壽四年，八月十三日，一代開國皇帝隋文帝駕崩，享年六十四歲。
隋文帝取代北周，建立大隋，結束南北分裂局面，開創了輝煌的“開皇之治”。在隋文帝執政初期，他勵精圖治，割除積弊，廢除九品中正制，創建了五省六曹制度，是爲後世三省六部制之藍圖。朝廷選官不再看重門第出身，平民也可出仕爲官，建立了科舉制度的雛形。此舉可謂居功至偉，輝映千古。
十八日發喪之時，官員宮眷全部身着白衣，進宮掛喪。放眼望去，若大的宮城在一片縞素。李淵和衆官員一起跪在大寶殿前，默默垂淚。太子楊廣在隋文帝棺木前痛哭流涕，幾欲昏厥。可在李淵和裴寂眼中，那不過是太子殿下在裝模作樣罷了。
隨後，楊素適時的拿出隋文帝遺詔，向衆大臣宣讀。
“……朕今年逾六十，不復稱夭，但筋力精神，一時勞竭。如此之事，本非爲身，止欲安養百姓，所以致此。人生子孫，誰不愛念，既爲天下，事須割情。勇及秀等，並懷悖惡，既知無臣子之心，所以廢黜。……皇太子廣，地居上嗣，仁孝著聞，以其行業，堪成朕志。但令內外羣官，同心戮力，以此共治天下，朕雖瞑目，何所復恨。……”
太子殿下在隨從的攙扶下，慢慢起身。隋文帝遺詔已經說的很清楚了，傳位於太子楊廣。衆臣三呼萬歲，李淵和裴寂對視一眼，只能在心中默默嘆息，跟着諸位大臣，一起叩拜新帝。
並非李淵愚蠢，他不是沒懷疑過隋文帝死因，以及今天這份“遺詔”的真假。但是他無力反抗，爲了家人，他不得不裝聾作啞，委曲求全。
那日他和裴寂分別後，李淵回到了家中，妻子竇氏早已從丈夫沉重的表情中猜出了什麼，她輕聲問道：“可是朝中出大事了？”
“沒什麼，一點小事，不必擔心。”李淵怕妻子多想，急忙勸解道，而後轉移話題，“孩子們都睡了嗎？”
竇清薇深知丈夫是不想讓自己操心，也只好裝作不知情，她笑道：“二郎三郎都睡了，他們今天玩了一天，跑累了。老大還在書房看書，四郎讓奶孃抱去哄了。”
“你辛苦了。”李淵拉着清薇的手，這時，一個十來歲的小女孩跑來進來，“爹爹，你終於回來了。”
這個小女孩是李淵的第三女，名叫李秀寧，生性活潑開朗，最得李淵的疼愛。李淵看見愛女，一掃心中煩憂，抱起她笑道，“秀娘，怎麼還不睡？”
“我在等爹爹回來。”李秀寧調皮地說道，“爹爹有沒有帶禮物？”
“當然有。”李淵拿出了精緻的點心，“只能吃一塊，吃完就去睡覺，好嗎？”
清薇在一旁微笑，這個女兒就是饞嘴，最喜歡那些市井小吃。她擔心那些東西不乾淨，不讓下人們給李秀寧吃。不過李淵帶來的，肯定是大興城裡最好的糕點。
李淵看着自己的妻子女兒，想着一家人能夠平安，自保纔是上策。
隋文帝喪禮結束後，太子楊廣繼位，次年改元“大業”，冊封蕭氏爲皇后，立嫡長子楊昭爲皇太子。
楊廣繼位後，以隋文帝遺詔爲由，逼迫兄長楊勇自盡。其親弟蜀王楊秀被他誣陷使用巫蠱詛咒隋文帝及幼弟漢王楊諒，被剝奪官爵貶爲庶民軟禁於內侍省，後與諸子一起被軟禁。
楊廣登基後的一連串行爲，徹底滅了楊勇楊秀造反的苗頭，新帝手段凌厲，讓衆位大臣心生膽寒。
而李淵冷眼旁觀着這一切，看着楊家父子相殘，兄弟相殺，默默感嘆他的姨夫隋文帝一生功績，最後卻毀在了兒子手中。
楊廣掃平了潛在的威脅後，終於開始大展身手。他剛一登基便提出了兩項大工程，一是營建東都洛陽，二是修建大運河。
此提議一出，朝野反對。大隋開國不過幾十年，正當是休養生息的時刻，可是楊廣不顧百姓疾苦，偏要勞民傷財。羣臣紛紛反對，可是楊廣不是隋文帝，他剛愎自用，固執己見，怎麼可能聽取朝臣們的意見呢？很多勸諫的大臣都被楊廣訓斥、貶官，李淵明白，徒勞的上疏沒有任何作用，只會給家人帶來災難。
楊廣讓宇文愷負責東都洛陽的修建事宜，任命他爲營東都副監。開皇二年，隋文帝下詔營建新都大興城時，也是由宇文愷擔任營新都副監。開皇十三年，隋文帝要在岐州修建仁壽宮，再度任命宇文愷爲檢校將作大匠，後又拜爲仁壽宮監、將作少監。可見此人有着豐富的營建修城的經驗。
至於大運河要如何修建，派何人修建，楊廣還沒有拿定主意。畢竟這是一個大工程，對於人選，楊廣不得不慎重考慮。
這一日，楊廣召楊素進宮問策，他問道：“修建大運河之事，派何人總管爲好？”
楊素心中早有想法，他向楊廣進言：“臣舉薦一人，可擔此重任。”
“是誰？”楊廣問道。
“李淵。”楊素說道。
“李淵，他行嗎？”楊廣皺皺眉頭，滿臉不信任的樣子。他對自己這個大臣兼表兄沒有過多關注，在他眼中，李淵不過是一個碌碌無爲的唐國公，在朝堂之上毫不起眼，這樣的人，怎麼能夠擔任修建運河的大事？
楊素道：“李淵也算是出生貴族，名門子弟，其祖父李虎乃西魏‘八柱國’之一，其父李昞承襲了爵位，並任安州總管、柱國大將軍。其母和陛下的母親還是親姐妹。李淵七歲襲封唐公，先帝時，李淵曾爲千牛備身，而且爲人豁達寬容，才華橫溢，修建運河應是綽綽有餘。”
楊廣驚奇的看了一眼楊素，玩笑道：“卿從未如此讚賞過一個人，這個李淵有何德何能，讓卿如此看重？”
楊素知道，楊廣自小聰慧，早就明白自己瞞不過他。他義正言辭地說道：“李淵出仕多年，無功無過，匿影朝廷，沒有任何存在感。此人隱忍不發，靜水流深，如今陛下初登基，我們用修建運河之事測測他的態度，看他是否真心支持陛下。”
楊素說話做事果然嚴謹，楊廣就知道他推薦李淵必有道理。於是楊廣點頭道：“就按卿的意思去辦吧。”