有人給黎元洪進言，何不把國會議員們召喚到天津，議員人數超過法定人數，在天津組織政府就合法了。
黎元洪覺得有道理，於是向銀行抵借十二萬元，用自己的私款在天津成立“國會議員招待所”。只是，沒等議員達到半數，這筆錢很快就用光。黎元洪以“旅費”的名義，給每個議員五百元。有些議員就是爲這五百元來的。見黎元洪沒多大油水，從天津的又返回北京了。
即便是這樣，黎元洪仍我行我素，在天津照樣以總統身份，經常有公函送給外交使團的領袖葡萄牙公使符禮德。符禮德開始還把他的公函當回事，隨時照譯照轉。後來見黎的文件越來越多，符禮德不耐煩了，便在外交使團的聯席會議上聲明，黎的文件沒有照轉必要，以後都不轉發了。
在天津的直隸省長王承斌，本就是曹錕的近臣，黎元洪在天津處處受困於他。
正當黎在天津四處碰壁，一籌莫展之際，六月十七日，收到好友章太炎的信，力勸他到上海另圖發展。
信中有言：“公果願成事者，當與段氏（段祺瑞）切實攜手，外借奉天之力，遠借西南之聲，持之數旬，必當有濟。……
黎元洪聽了章的話，發佈了一道命令：任命段琪瑞爲討逆軍總司令兼第一路司令，張作霖爲第二路司令，盧永祥爲第三路司令，並以自己的同鄉親信陳宦爲參謀長。
段祺瑞對黎元洪仍耿耿於懷，見到命令，冷言冷語地說：“討逆我不會自己討，要你姓黎的給我命令？真是笑話。”
知道了段的態度後，黎不死心，又改任張作霖爲討逆軍總司令，閻錫山和盧永祥爲副司令。但是張、閻、盧都表現得很冷淡。
再一次受挫後，黎元洪又收到了章太炎六月十七日的信，仍然勸他南下。
信雲：“密書已達，數日籌商，仍請我公速成到滬。一、國會議員誓如魂魄，公譬如軀幹，有魂魄無軀幹，失所憑依，終於散盡。此不能不來者一。二、三百議員到滬，未能過半，非公自來不可。不然，議決之案，無人執行，彼亦無味，非仍被賊人誘去，必則別圖建設以招紊亂。此不能不來者二。三、外人仍認公爲總統，則滬可截留關餘、鹽餘。即不能截留，亦可使之掯住不發，以絕賊人命脈。公若不來，他人無此力量也，此不能不來者三。四、各派對公，容有同異，然商人最信公，不來則歡忱不接。此不能不來者四。以上四因，皆最切要言，來時有元首之資格，而不必具元首之威儀則更善。”
一九二三年八月八日，在滬國會議員劉楚湘等二百八十人，發表了歡迎黎元洪南下的通電。
內言：“公宜早日南下，身先同人，成立政府，號召中外，使外而友邦，內而國人，知正統之所歸，正義之所在，即使各方面意見未趨於一致，而公亦當紆尊降貴，與之周旋，只要爲國伸正義，不妨己身受勞怨。”
黎元洪此前已經派親信金永炎去了次上海，和各路“神仙”有過接觸。金回來說：“盧（盧永祥）未切實歡迎，孫派意見未融”，因此，是否南下，黎還在猶豫。
這時，段祺瑞派親信李思浩等人也來極力動員黎南下，表示段會盡力給予支持。看來段也想借黎元洪的力，報直系的一箭之仇。
黎元洪終於下決心南下了。
爲了安全，一九二三年九月八日，經友人安排，黎元洪秘密搭乘日輪長府丸，偕李根源、陳宦、莊景珂和兩名日本醫生二人踏上行程。於九月十一日抵滬，下榻法租界杜美路二十六號。
當晚即在寓邸邀請唐紹儀、章太炎、李根源、褚輔成、章士釗、陳宦、饒漢祥、鄭萬瞻、焦易堂等進行一番密商。
隨後發出一道通電：“元洪忝受國民付託，待罪公僕，德薄能鮮，致有六月十三日之禍。惟念紀綱不可不立，責任不可不盡，業於九月十一日到滬，勉從國人之後，力圖靖獻，謹此奉聞。”
又有致廣州孫電雲：“（上半段與前電同）……我公昔在清季，與元洪共開草昧，休慼與共，惟望共伸正義，解決時局，海天南望，佇候教言。”
九月十二日，黎元洪在寓所招待新聞記者，發表書面談話如下：
“餘在國會未曾有正當解釋任期之前，總統地位，當然存在。餘在京因不能自由行使職權而移津，然天津依然爲暴力所包圍，乃不得不轉而至滬。上海爲輿論中心，政治策源地，故餘來深欲徵取各方意旨，並將中心所懷，報告於衆，使各方公判，而求妥善解決之道。連年兵禍，國民已創深痛鉅，餘素主和平，尋求國是之解決，雅不欲訴諸武力。餘對於總統之位，毫無戀棧之意，亦無作下屆總統之野心，惟進退授受，當遵法定手續。
“今法紀蕩然，長此混亂，國何以立？餘故不憚跋涉而來滬，求各派人士之合作，以維法律而整綱紀。故餘南來之宗旨，一言以蔽之曰：維持法律，整飭紀綱而已。至現在北京之攝閣，毫無法律根據，今合法內閣之總理爲唐紹儀，仍有施行政事之權力，滬上之國會，爲主張正義而來，彼開會時，餘當出席報告，請其維持法紀而固國本。餘之行動一遵民意，而以法律爲根據，如有能整飭紀綱，維持法律者，餘即當按法定手續以政權相授，決不遲疑戀棧也。”
中外各報對黎元洪的南下和他的談話，反應並不熱烈，都沒有成爲一件大新聞。這和黎及其身邊人的期望大打折扣。
黎元洪被直系捧上總統位子，並沒有得到奉系、皖系以及國民黨和西南方面的同意，除盧永祥外，其他人當時雖然沒有明確態度，實際上都是反對黎上臺的。特別是南邊，因黎的上位而恢復法統，使其護法失去合法性，可見所謂護法也多半是豎起的一面旗幟而已。
所以，黎元洪此番到滬來尋求各方支持，大家反映冷淡應該也是情理之中的事。
太炎先生看來也是把形勢估計得太過樂觀。
而黎這次到上海，好像也真不是時候，因爲此間正盛傳江蘇的齊燮元將與浙江的盧永祥要發生軍事衝突。
江浙兩省對於戰爭的威脅極爲敏感，兩省的士紳如張一麐、張謇等發起《江浙和平公約》，分別請蘇浙軍民當局和浙滬護軍使簽字，以資信守。
黎到上海時，這個和平公約剛好籤署，其中規定：“對於兩省境內保持和平，凡足以引起軍事行動之政治運動，雙方須避免之。”
江浙人士認爲黎元洪在上海組織政府，將使和平局勢受到破壞，張謇曾找到黎，力言江浙和平關係重大，希望不要輕舉妄動。言外之意是反對黎在上海活動。
九月十三日，黎在杜美路寓所召集各地應邀而來的代表，舉行全國性的會議。參加者有廣東代表汪兆銘、浙江代表鄧漢祥、奉天代表楊毓珣、雲南代表陳維庚、貴州代表李雁賓、四川代表費行簡、趙鐵橋、湖南代表鍾才宏等人，段祺瑞的代表也有參加。
黎元洪是想協商籌組一個全國性的政府。
黎元洪以主席身份首先致詞，他說：“這次南下完全是自動，因爲曹錕用金錢和武力攫取總統，眼看就要成功，如果大家坐視其上臺，必定惹起各省兵爭，破壞和平，流禍無已。故不若用拆臺方法，令其不能做總統，即可保全和平；今拆臺只得一半成功，故率然南下，希望和各方通力合作，貫徹拆臺宗旨。盼各方支持，拆臺既竣，建設之事，則非本人所能勝任，惟望天下仁人志士共起擔負。”
黎的說完後，見會場無人應聲。於是黎又繼續說：“目前拆曹錕大選之臺，即須我方先能搭臺，而搭臺最要在組織政府，俾能號召一切。現在已商請唐少川擔任內閣責任，請各省贊成。”
各省代表互相看了看，最後由汪兆銘起立致答：“各省對公個人皆極仰佩，去年直系擁公上臺，各省所以不一致贊成者，因法律上所見不同，且灼知直系毫無誠意，故今年六月十三日之事，早在意料之中，今公個人跋涉南來，深感公之爲國宣勞。至於組織政府一事，事關重大，各代表事前毫未知情，也未有所準備，自當慎重考慮，電告本省，請示可否？然後奉復。”
汪的話講完，各省代表一致表示同意，於是黎這次組織政府的談話會以不了了之結束。
接下來的一件事，更讓黎元洪難堪。
就在黎在各省代表那裡碰了軟釘子的當天，南下的國會議員在湖北會館召開談話會。黎元洪以大總統身份將已準備好的兩道命令函達國會，請求同意：
一、準李根源辭署閣職；
二、任命唐紹儀爲國務總理。
黎同時通知議員們，準備前往報告一切。
在黎看來，南下議員集會不能沒有總統和內閣，否則議員集會失去了意義，這比和各省代表談話要有利得多，他相信議員們一定歡迎他。
但事情的發展大出黎的預料，議員在談話會中，國民黨籍議員張繼竟聲色俱厲地指責黎元洪，認爲他誤國，依附軍閥，不顧國家民族大義，只求一己利害。他鄭重宣佈，國會中如果再有文電稱黎元洪爲大總統，他本人堅決不予承認。現在中華民國已經沒有大總統了。國會中原來設有的大總統席位，亦應立即撤去云云。
張繼的擋駕，使得國會空氣爲之一變，議員褚輔成、黃雲鵬、吳淵、谷思慎等，見情勢不佳，深怕黎元洪來了之後受到難堪，於是趕快打了電話去通知黎，請他不要來出席國會。