關羽麾下士卒家眷皆在兗州，聽關羽要往兗州自然紛紛應諾。至於荀諶的囑咐，衆將士誰也沒提，一個死軍師和一個活將軍，將士們自然是聽關羽的。而關羽不聽荀諶勸告也是性格使然，他覺得若不能奪回兗州便無法向劉備交代，縱然此去千難萬險也不願有負劉備所託。當然關羽也有一些僥倖心理，覺得奪回兗州還有希望，所以一面回兵，一面遣人星夜往豫州、幷州求援，想要三路兵馬一同奪回兗州。
人馬正往前行，忽然前方喊殺聲大震，一隊軍馬攔住關羽去路，爲首大將正是陳武。陳武勒馬挺槍大叫道：“雲長何不早降！”
關羽大罵道：“手下敗將也敢尋死！我乃漢將，豈可降賊！”言罷拍馬舞刀，直取陳武。
陳武上前交戰，不到十合撥馬敗走。關羽提刀追殺十餘里，忽喊聲又起，左邊山谷中周泰領軍衝出，截斷關羽後路，陳武回馬復戰，原來陳武假意敗退乃是誘敵之計。
關羽腹背受敵無法兼顧，只能揮軍突圍而走。經此一戰關羽兵馬又去一半，還有五千餘人。關羽尋思周瑜人馬還在鄴城之下，便繞路往兗州而行，好在先前陳武詐敗之時爲求逼真留下一些糧草，關羽士卒纔不用劫掠爲生。
繞過鄴城之後，關羽剛鬆口氣，便見兩邊山坡之上伏兵四起，左有周瑜，右有淩統，便見周瑜羽扇綸巾，手指關羽道：“雲長將軍往哪裡去？前方兗州已爲我主所有！我在此等關將軍多時矣！”
關羽一見周瑜雙目冒火，大罵道：“無義之徒，速來受死！”說罷便策馬往山坡上衝殺。
周瑜見狀不急不怒微微一笑，吩咐士卒放箭。兩邊山坡士卒一同開弓射箭，滾木擂石紛紛滾落。關羽撥打鵰翎，無法靠近周瑜，只得敗陣而走，五千士卒又折了兩千餘人。
淩統見關羽要走便要去追，周瑜喝止道：“公績莫往！你身上有傷豈是關羽對手？”
淩統不甘心道：“我等軍馬是關羽十倍，豈可輕易放過？”
周瑜笑道：“困獸猶鬥，窮寇莫追，我等不損一兵一將能留下關羽兩千兵馬也該知足了。前方自有人會要關羽性命。”
淩統聞言不再多言，他哪裡知道周瑜不是不想追擊，而是無將可用。周瑜可不認爲自己和有傷在身的淩統能擋住關羽。
關羽引着三千餘敗軍跑了一陣，見吳軍沒有追來才鬆了口氣，於是又往前行。眼看進入兗州地界，山崦內又有兩軍撞出，左邊潘璋，右邊董襲，各領一萬軍馬殺出。原來二將奉呂蒙之命來助周瑜，周瑜便命二人埋伏在此，專候關羽到來。
潘璋、董襲見關羽士卒狼狽不堪，關?，關羽本人也沒了往日威風，胸前的美髯都被血水浸紅粘連到了一處，於是便以爲關羽好欺，一齊挺槍舉刀雙戰關羽。
關羽見兩個二流武將把自己當成了肥肉，竟然皆要先殺自己爭功，不由心中大怒。揮舞青龍偃月刀力敵二將。
潘璋、董襲若是穩妥一些，利用埋伏的時間設下陷坑、絆馬索，未必不能擒住關羽。可是二人有爭功之心，又有些小看關羽，便沒有設下陷阱，想要陣前斬將。如果二人通力合作又有大軍在側，也未必敵不過疲憊的關羽，可是二人各自爲戰就不是關羽的對手了。
世上沒有那麼多如果，也沒有賣後悔藥的。正是因爲潘璋、董襲輕敵，才被關羽抓住破綻各個擊破，不到二十合先殺退了潘璋，又戰十合殺退董襲。關羽再次領兵突出重圍，此時再回頭看，身後士卒只剩千餘。
看着身後渾身浴血的千餘士卒，關羽不知自己該不該再往前行。關羽心中明白，就憑這些士卒，無論如何也拿不下兗州。此時他有些後悔沒聽荀諶之言，若用荀諶之計，自己可能兵敗丟臉，但至少可以保全大半士卒性命，說不定這些士卒還能幫上張飛，結果總比被一路圍殺枉死的好。
就在關羽立在兗州界口猶豫不決之時，道邊樹林之中突然鑽出幾個士卒，高聲問道：“前方可是二將軍兵馬？”
關羽見狀一愣，忙將幾個灰頭土臉的士卒喚到跟前問道：“你等是何人？因何藏於密林之中？”
爲首的士卒抹了一把臉上灰泥道：“二將軍，我等皆是兗州士卒，專爲在此把守烽火臺。皆因吳兵犯境，我等纔不得已藏身在此。”
關羽聞言心中大怒，呵斥道：“吳兵犯境，何不舉火？”
士卒苦着臉道：“呂蒙遣人盡穿白衣，打震遠鏢局旗號，扮作行商、鏢師，詐入烽火臺，因此各處不得舉火。”
震遠鏢局的聲譽聞名天下，雖不能說沒有丟失過一單貨物，但就算貨物遺失也會加倍彌補貨主損失。各地百姓對鏢局、鏢師、錢莊的信任程度甚至大於官府和官兵，也難怪呂蒙假扮商人鏢師可以屢屢得手。
關羽聽完前因後果愈加恨怒，想到自己既然已經選擇來到兗州，何不討呂蒙要個說法？就算不能奪回兗州，能誘呂蒙出城殺之，也好解心頭之恨。想罷關羽便起兵往昌邑而行。
潘璋、董襲一敗，呂蒙便在城中聞知關羽入境。當得知關羽只剩下千餘人馬時，呂蒙並未輕視，反而吩咐士卒下去準備。並傳下號令：凡兗州諸郡，有隨關羽出征將士之家，不許吳兵攪擾，按月給與糧米。有患病者，遣醫治療。將士之家，感其恩惠，都願助呂蒙行事。
這一日有人來報呂蒙關羽兵臨城下，呂蒙於是登城而望。關羽在城下見了呂蒙大怒責問道：“呂蒙狗賊，我等兩家約好共誅曹丕，如今你卻助曹而襲我，是背盟也。你這背信小人可敢出城與我一戰？”
呂蒙聞言臉不紅，氣不喘，在城頭笑道：“雲長將軍豈不聞兵者詭道也？你若有計策奪我徐、揚二州自可去取。來人，擺陣。”
隨着呂蒙一聲令下，竟有不少士卒家眷走上城頭，城上豎起一面白旗，上書“兗州百姓”四字。衆家眷走上城頭之後都叫自己家人速速投降。