在完成了江蘇的一系列部署之後，曾紀澤於1864年1月1月率淮軍誓師西征。除嘉興三個團、徐州兩個團、胡雪參訓導師鎮守江蘇之外，淮軍此番西征兵力達十一個團，三萬五千人之衆，是爲淮軍成軍以來，出師之盛，前所未有。
淮揚水師主力艦隊，大小艦船及新式炮艦，共七十餘艘，隨同西征。淮軍與計劃兵分水陸兩路，沿江西進，沿途掃蕩太平軍殘部，攻城掠地，於1月中旬抵達了金陵，與曾國荃部一起，加入圍城之戰。
天京，忠王府。
李秀成怒氣衝衝的回到了府中，一進大堂，就將手中的配刀拔出，狠狠的砍向面前的檀木椅子，幾番揮刀，將那椅子砍了個粉碎。
“天王息怒。”跟隨在後的親兵隊長賀城棟從旁勸阻。
李秀成一腔的怒火無處發泄，他像是一頭發了狂的獅子，聽不進任何勸言，他瘋了一般狂舞着手中的刀，將這大堂毀了個乾淨。
旁邊的一干侍女們嚇得魂不附體，不知所從，賀城棟急向她們使了個眼色，叫道：“快去請王妃來。”
侍女匆匆奔回內室，過不多時，一位容貌中等，卻端莊慈祥的婦人急急忙忙的奔了來，她一見李秀成這般模樣，先是一驚，隨後便衝了上去，硬是奪下了他手中的刀，柔情勸道：“王爺，快把刀放下，小心傷了自己身子。”
李秀成似乎很聽得進這位王妃的話，很順從的被她奪下了刀，又被她扶着坐下。他這一番狂亂耗了不少體力，這時像脫了力氣一般，斜坐在被他劈得只剩下一半的椅子上，只是大口大口的喘着粗氣。
忠王妃不明就裡，邊吩咐下人趕緊拿茶來，邊向賀城棟問道：“這到底是發生了什麼事。王爺怎的會發這麼大的脾氣。”
賀城棟頓時恨咬牙切齒，憤憤不平的說道：“今天在殿上，姓洪的幾位王爺誣陷咱們王爺，說王爺們收買民心，圖謀奪權，他們還罵王爺是奸臣。更可氣的是。天王也信了，竟然當着滿朝文武地面斥責王爺由忠變奸，王爺當時就氣得差點沒背過氣去。”
忠王妃聽完解釋。滿心替李秀成覺得委屈。便是勸道：“王爺。天王被那幾個洪姓王欺瞞。總是責難王爺。我看王爺也不必留在天京受氣了。明天咱們就想辦法離城與叔叔他們相聚吧。”
忠王妃指地叔叔便是侍王李世賢。儘管他地封地浙江已在部淪於左宗棠楚軍之手。但他還保有數萬人馬。坐守着十幾座城池。
李秀成發泄完怒氣。思緒漸漸恢復了冷靜。他思前想後。斟酌了半天。長嘆道：“罷了。罷了。既然天王這般不信我。我留下也沒什麼意義。就聽愛妃地。咱們走吧。”
賀城棟道：“現下天王將天京各門都劃歸洪姓王爺們把守。王爺要想出城。只怕他們不會放行呀。”
李秀成奮然而起。怒道：“本王離城正是合了他們地心意。他們若還敢阻攔。真就當本王是好欺負地麼！”
李秀成遂命賀城棟召集天京城中他地近三千嫡系人馬。由北面太平門出城而去。有敢阻攔者。他就強行殺出去。
王府中人一聽說忠王要離天京，上下頓時忙成了一團，收拾東西。整理細軟。忠王妃光衣服就裝了五大車，再加上府中所藏金銀珠寶，古玩綢緞，足有三十車之多。
也不知是誰將忠王要離城的消息傳了出去，金陵城內一時人心慌亂，附近的百姓扶老攜幼，自發的聚集在了忠王府前，不出一個時辰便有數千人之衆。
這些百姓全跪在王府前，或是嚎陶大哭。或是磕頭不止。衆人盡皆央求忠王不要棄他們而去。
王府門前擠了這幾千號人，將近把一條街都堵得水泄不通。那三十多車的細軟，根本連動都動不了。李秀成無奈之下，只得出了王府，親自來見這些請願的百姓。
衆人一見李秀成的面，頓時沸騰起來，嚎的比原來更響亮，磕頭的咚咚撞地，哀求哭留之聲，只怕半個金陵城也能聽得見。
李秀成見了這般場景，一顆心頓時軟了三分，他忙將跟前地一位老人家扶起，朗聲向衆人道：“各位兄弟姐妹，天京糧荒已久，秀成此番離去，只是想多籌集些糧食，再回來解天京之困。還請你們理解，放一條路讓秀成離去吧。”
此番話一出，衆人哭得更是聲嘶力竭，只是不肯讓路。那骨瘦如柴的老者撲嗵又跪了下來，抱着李秀成的腿哭道：“王爺是天國地頂樑之柱，王爺若是去了，這天京哪還能守得住呀。王爺你仁愛萬民，就忍心把我們留給清妖的屠刀嗎，王爺，你不能走呀。”
李秀成着實被這些百姓愛戴所感動，他眼眶中竟是含起淚水，眼睜睜的看着跟前的人們，猶猶豫豫不知該說些什麼。
身旁的忠王妃見李秀成有反悔之意，急是從旁勸道：“王爺，時間不早了，咱們趕緊上路吧。”
這話被那老人聽了去，他回頭向衆人呼道：“王爺就是咱們的救星，他若執意要走，咱們就在這裡給他磕頭送別，直到磕死爲止吧。”
在他的號召之下，幾千人山呼海嘯般的狂撞起了地，此起伏彼的磕頭聲，匯聚起來，竟如戰鼓一般震懾人心。頭破血流，仍不放棄，鮮血染紅了地面，一個個飢餓瘦弱地身軀，不斷的停在血泊之中。
李秀成爲此情景所震撼，他的一顆離去之心，徹底的被這些無助絕望的人們所擊倒，他仰天長嘆了一聲，心中想道：“莫非天意如此，我李秀成註定要與這天京一同覆亡嗎？”
感慨良久，他苦笑着向衆人高喊道：“秀成能得你們的信任，死亦無憾了，我決定留下來，與天京共存亡。”
話音一落。絕望的百姓們彷彿在滾滾淵流中抓到了最後的一根救命稻草，他們暫時忘卻了悲傷，盡皆歡呼雀躍，大呼“忠王千歲，忠王千歲”。
忠王妃百般無奈，一聲怨嘆。轉身拂袖回府。李秀成享受着萬民的擁戴，臉上雖是一副欣慰之狀，私下是是暗暗搖頭。
曾紀澤地兵分兩路，一部分自上海搭乘淮揚水師溯江而上，一部分由蘇州出發，先往鎮江，再往金陵。曾紀澤命水師先行，而他則趕往蘇州，與已在那裡休整多時的吳長慶、潘鼎新等人會合。另一方面。他也要在離開江蘇之前，與李鴻章有一個會晤。
李鴻章道：“大公子，此番西征。凡事千萬要小心謹慎。九帥那方面，還是要與之協調好，免得到時出了不必要地糾紛。”“還用得着協調麼，我們早就串通一氣了。”
曾紀澤並沒有迴應李鴻章的囑咐，卻反問道：“少荃，你就任蘇州知府差不多也快有半年了，最近可在蘇城的街頭巷尾聽到些什麼傳言嗎？”
李鴻章一怔，想了片刻，道：“傳言倒是聽到一些。現在街到到處是風傳，說是有人在太湖中見到一青一橙二龍相鬥，橙龍勝而上九天，青龍敗而沉湖底。這傳言玄之又玄的，也不知是真是假。”
“青龍……橙龍……”曾紀澤似在思索，卻又不得解，問道：“若果有此事，說不定是上天有所徵兆，少荃你博古通今。可知這青龍、橙龍所寓何意嗎？”
“龍者，至尊也，青龍、橙龍，莫非是……”李鴻章話說一半，笑而不語。
這什麼雙龍的傳聞，完全是曾紀澤的傑作，無非是想爲不久之後起事做些“天意”輿論宣傳。他知李鴻章乃當世奇才，又豈會不知那雙龍是何寓意，只是他這人聰明地緊。凡事都先想着把自己置於安然之境。這時雖體察到了曾紀澤地用意，卻偏不明言。
李鴻章雖不掌兵權。但他跟隨着曾紀澤創立淮軍，幫着他建起人才匯聚地幕府，諸多的人事任命，他也參與其中，可以說，李鴻章在江蘇官府以及淮軍中地影響力是不容忽視的。
曾紀澤今日的用意，就是非要李鴻章表明態度不可，否則，他決不會在離蘇之前，將這麼一個立場不明的有影響力人物留在大本營中。儘管他已安排胡雪參的一個團駐守蘇州，對李鴻章和這座蘇南重鎮予以嚴密地監控，但曾紀澤還是不想留有任何顧慮前往金陵。
曾紀澤見李鴻章不答，便隨手端起了茶杯，連飲了三口，一旁的白震山看在眼裡，神情頓時緊張了起來，手悄悄的放在了配刀上。
就在這大廳之外，曾經澤已安排下了大刀隊地一百多親兵，胡雪參的那個團也是嚴陣以待。曾紀澤事先已與白震山有所約定，若然李鴻章心有不從，則以摔杯爲號，大刀隊衝入，當場將李鴻章正法，同時胡雪團立刻行動，清除李鴻章安排在蘇州的心腹官員。
曾紀澤甚至連新一任的蘇州巡撫也選好了，就等着李鴻章做出決定。在這一刻，這位歷史上著名洋務派領袖的生死，就全決於他的一念之間。
“莫非什麼？”曾紀澤閒然而問，手中茶杯卻握得更緊了。
李鴻章倒沒急着回答，他便拿起桌上的水煙，不慌不忙的點了火，優哉遊哉的輕吸了幾口，大廳中頓時煙氣瀰漫。
“咳----”曾紀澤輕咳了幾聲，這麼多年了，他還是無法適應這水煙嗆人地開味道。
曾紀澤知道，李鴻章是在故作鎮定，其實他的內心之中，此刻八成已是排山倒海。他擺出一副比李鴻章還要閒庭信步的神態，笑着說道：“少荃，這個問題很難回答嗎？它很讓你緊張嗎？”
李鴻章一怔，道：“大公子怎麼看出我緊張了，我覺得我現在很淡定的。”
曾紀澤冷哼一聲：“少荃你莫非忘了，你曾經和我說過，你這人只要一緊張就想抽水煙。這一鍋煙你幾下就抽乾了，看來你還真的緊張的很厲害。”
李鴻章哈哈大笑：“知我者，非大公子莫屬呀。”他將水煙放回了桌上，起身在這大廳中來回踱起了步。
就在曾紀澤已漸漸沒有耐心，要舉起杯起，他忽然說道：“大公子，其餘人都不足爲懼，唯有洋人的態度是至關重要的。上海乃洋人勢力最盛之地，而咱們的武器製造局，江南製造局又都建在那裡，萬一洋人強行控制了這兩個廠子，只怕介時對淮軍地武器彈藥供應會有不小的影響呀。”
曾紀澤鬆了口氣，李鴻章雖未明言，但這幾句話卻是無疑表明了態度，並且還切中了要點，這在之前是曾紀澤所沒有考慮過的。
曾紀澤道：“少荃，你能說這一番話，我真的很感欣慰呀。李鴻章正色道：“老師對我有知遇之恩，大公子你對我有提攜之恩，我李鴻章非是那種知恩不圖報之人，其實大公子你根本不用猜忌，我李鴻章自然是會站在你們這邊的。”
曾紀澤重重點頭，表示認可，又道：“少荃的心意如何，我當然明白。此番西征，正是要決定大事，我身邊怎麼能缺了少荃這樣的智謀之士，這樣吧，蘇州府的政事你暫且放一放，隨我一同去金陵吧。”
曾紀澤覺得有必要把李鴻章帶在身邊，不過這倒令李鴻章頗感意外，他似乎是有幾分不情願：“蘇州的重建正在重要關頭，土改方面還有很多問題要處理，我只怕這麼一走，這副攤子下面地人不好處理呀。”
曾紀澤不以爲然：“我相信少你荃選拔下屬地眼光，小事他們應該能夠處理，至於大事嘛，我想金陵與蘇州距離並不遠，咱們有輪船來去如風傳遞信息，你大可在金陵處理公務的。
李鴻章地藉口被曾紀澤輕易推翻，無奈之下，只好選擇隨曾紀澤大軍一同前往金陵。
曾紀澤也因李鴻章的提醒，決定將上海武器製造局一半以上的步槍生產車間，以及整個機槍車間全部搬到了蘇州，成立了蘇州槍械局。
至於還在建設中的江南製造局，工程最爲浩大的船廠，曾紀澤讓其繼續在原址建設，至於一些直接影響到戰局的廠子，如炮局、子彈廠、修船廠，則改遷到蘇州抓緊時間搶建。
上海的商人們顯然還無法領會到曾紀澤這樣做的用意，但因韓殿甲代表的官府擁有着大部分股權，故在股東大會上，強行通過了江南製造局部分遷移至蘇州的決定。