孫權要向劉備討要南郡，張召便說只須派一人去便可馬到成功，孫權欣喜，忙問張召，張召道，“現諸葛亮在劉備處任軍師中郎將，劉備對他是言聽計從，主公可派諸葛謹前去討要，諸葛亮與諸葛謹是親兄弟，我想諸葛亮定會幫助諸葛謹，所以諸葛謹去定能成功。”
孫權喜道，“我怎麼就沒想到呢？好，就讓諸葛謹去。”於是孫權便命諸葛謹前去成都討要南郡。
諸葛謹到了成都先面見劉備，呈上孫權的書信說明來意，劉備看罷信便讓諸葛謹去驛館歇息，隨後將諸葛亮找來，對諸葛亮道，“你兄弟諸葛謹從江東來了。”諸葛亮道，“莫非是討要南郡之事。”
“正是，”劉備道，“你說我該如何作答？”諸葛亮道，“主道，“明日主公可如此如此這般說便是。”劉備大喜。
諸葛亮剛回到家中，諸葛謹便來找他，說明來意，忽然哭泣起來，“大哥，此次若討不到南郡，孫權便要將我斬首，還望哥哥在劉備面前說合，將南郡還與東吳。”
諸葛亮道，“兄弟放心，我這就去見主公，勸主公歸還南郡。”
次日，諸葛亮與諸葛謹去見劉備，問歸還南郡之事，劉備怒道，“你家主公孫權私自將我夫人接走我還沒向他興師問罪，他倒要起南郡來了，不給！”
諸葛亮跪地哭拜道，“主公就還東吳南郡吧，否則我兄弟將被孫權殺害，我兄弟若死，我亦不獨活矣！”
劉備思量片刻，忙將孔明扶起，道，“看在軍師的面上，我就把長沙、桂陽、零陵三郡交於東吳，諸葛謹，你就回去覆命吧。”
諸葛謹喜道，“請劉皇叔寫一封書信讓我交於關羽，讓關羽交割三郡。”
劉備應允，於是便寫了一封信讓諸葛謹帶上，諸葛謹唯恐劉備反悔，立即趕回荊州，不日便到達南郡的江陵城，入城見過關羽，對關羽說明來意，將劉備的書信呈上，關羽看罷將書信撕毀，道，“有道是將在外君令有所不授，大哥讓我割讓三郡，我偏不給，諸葛謹，你回東吳吧。”
諸葛謹大驚，想奪回信箋，可已經晚了，諸葛謹怒道，“關羽，你連家主公的話都不聽了嗎？你家主公讓你交割三郡，你交還是不交？”
關羽也怒道，“諸葛謹，若不是念在你哥諸葛亮的面上，我早把你砍了，來人，給我轟了出去！”
幾個兵士過來就把諸葛謹轟了出去，諸葛謹忿忿地回頭看了看關羽的衙門，只得返回建業，垂頭喪氣地向孫權訴說一切，哭道，“關羽欺人太甚！”孫權咬牙切齒，“並非關羽之意，實則劉備之謀，劉備並無歸還荊州之意，子明，你看我們該如何處之？”
呂蒙道，“劉備不是許諾交割長沙、桂陽、零陵三郡嗎？關羽不給，那我們就強攻，奪取三郡。”
“好！”孫權道，“呂蒙，孤就命你率韓當、周泰、丁奉、徐盛引兩萬人馬去取長沙、桂陽、零陵三郡，即日起程。”
呂蒙領令走後，孫權親自前往陸口，讓魯肅引兩萬人馬南下益陽以擋關羽救援三郡。
消息傳到荊州，關羽大驚，急忙派人星夜趕程到成都去稟報劉備，劉看聽後也吃驚不小，此次孫權派人來討要南郡劉備沒有給他，本以爲孫權再會派人來索要，卻不想孫權來硬的了，荊州是劉備的大本營啊，是諸葛亮“隆中對”中所設想攻取中原的一個戰略要地，諸葛亮在“隆中對“中就闡明，待時局有變，劉備可令一大將出荊州北攻襄樊與洛陽，同時劉備則出益州北取長安，兩下夾擊以定中原，因此，荊州的戰略位置十分重要。
因此，劉備親率趙雲引五萬軍馬晝夜趕程前去荊州增援關羽。
再說呂蒙，率大軍南下去攻取長沙、桂陽、零陵三郡，傳檄長沙、桂陽，二郡望風歸降，呂蒙乘勢揮軍過湘水，兵圍零陵。零陵太守郝普登城拒敵。
呂蒙傳檄郝普，讓他投降，可郝普拒不投降，呂蒙便後撤十里地下寨，另想他策。此時劉備已經率軍抵達荊州，劉備便令關羽引三萬軍馬去收復長沙與桂陽，孫權得知，一方面讓魯肅引甘寧等將在益陽以擋關羽，一方面傳令呂蒙撤軍去增援魯肅。
呂蒙收到孫權的命令後並沒有馬上撤兵，而是派人尋找到郝普的好友鄧玄之，欺騙鄧玄之說曹操已派兵攻打荊州，關羽此時正在南郡與曹操決戰，不會抽調兵力來救零陵，讓鄧玄之進零陵城去勸降郝普。
鄧玄之信以爲真，匹馬進零陵城去見郝普，盡言呂蒙之語，郝普驚懼，於是開城投降。郝普出了城後，呂蒙即刻派兵進佔了零陵，呂蒙拉着郝普的手大笑，把孫權令他撤兵的信給郝普看，郝普才知上當，後悔晚矣。
此時關羽已兵至益陽，因益陽在湘水東側，關羽便把大軍駐紮在益陽對岸，自親率五千精兵北上十里地，想在上游淺灘處過湘水去攻打益陽，魯肅探馬得到消息，與衆將商議對策。
部將甘寧道，“請將軍給我一千人馬北上隔岸去阻擋關羽，關羽只要聽到我的咳嗽聲，定不敢徒步過河。”魯肅大喜，遂撥一千精兵與甘寧，於是甘寧率軍北上，在上游淺灘處紮營，以待關羽。
待關羽引軍到達上游淺灘時發現對岸吳兵已紮營駐防，營門口的帺幟上書寫一個斗大的“甘”字，關羽明白，領軍大將定是甘寧。此刻，關羽猶豫了，如果強行涉淺灘渡河，勢必遭到甘寧軍的打擊，自己兵馬雖多，但對岸若甘寧軍以弓箭射擊，士兵步涉水中定有很大的傷亡，且甘寧乃是江東一員虎將，其武力也不在關羽之下，因此，關羽見對岸甘寧設防便沒敢步涉過河。
關羽夜裡在河邊巡查，聽聞對岸有一宏亮的咳嗽聲，關羽對部下道，“此必是甘興霸也”，次日，關羽便令兵士去荒野砍柴以築營柵，以防甘寧過河，後此地被人們叫爲“關羽瀨”。
孫權令呂蒙攻取了長沙、桂陽及零陵三郡，劉備才從成都率大軍趕到荊州，劉備令關羽去奪回三郡，卻不料孫權早有預防，不易攻取，劉備只得與孫權各領兵在湘水兩岸對峙，而此時曹操已兵出鄴城直奔漢中，劉備得知消息後不免心情緊張起來。
而孫權取得了三郡後也不想再擴大戰爭，想盡快地與劉備結束這對峙的局面，於是他便派魯肅爲使去和關羽協商退兵之事。
魯肅便寫了封信給關羽，約請關羽在零陵城以北某地相見，協商退兵之事。關羽通報劉備後應允了魯肅，魯肅又建議將各自兵馬退後一百步之外，只允許將軍們帶着單刀到約會地點相見。
到了約定之日，兩軍都在百步之外列隊，各自都衣甲鮮明、旗幟招展、槍戟林立，殺氣騰騰。
魯肅帶着甘寧、韓當、周泰、徐盛、丁奉來到關羽的對面，關羽的身後則站着關平、周倉、廖化、糜芳及傅士仁，關羽請魯肅對面而坐，各自部將都按劍站立後方。
魯肅道，“你我軍隊本是同盟，在赤壁一戰大敗曹操，我們纔有了這穩定的局面，我們不應該相互攻伐，破壞了我們聯盟的局面而讓曹操漁翁得利。”
關羽道，“公既然說我們應該穩定結盟的關係，因何首先出兵攻取我長沙、桂陽及零陵三郡？”
魯肅道，“事出有因。想當初你家主公劉皇叔借我南郡，言道待取了益州相還，可你們已經取了益州而不歸還我南郡，我家主公派諸葛謹前去成都討要南郡，劉皇叔不給南郡，說要割讓江夏、長沙、桂陽三郡給我們，而到了關將軍這裡卻又不給，我們萬般無奈才走此下策，望關將軍見諒。”
聽魯肅這麼一說，關羽身後的周倉沉不住氣了，厲色說道，“天下土地，唯有有德之人才能擁有，你們東吳憑什麼想獨佔！”
魯肅瞪着周倉也厲聲道，“當初劉備在長阪坡時，計窮力竭，來投我們東吳，是我主孫權同情劉備沒有棲身之地才割愛荊州以濟其患，使有所庇廕，但劉備矯飾私情，已取得益州還想兼併荊州，這種事情連凡夫俗子都不忍心去做，何況還是有頭面的領袖人物！我知道有這樣的話，貪而棄義，必有禍。將軍你我都是有重任在身的人，如果連這一道理都不明白，反而一味袒護其短，這能算是爲主盡忠嗎？”
關羽聽罷無言以對，轉而怒斥周倉道，“此國家大事，豈是爾等亂論爾，還不快快退下！”
周倉退下後關羽道，“將軍所言也是，爲了我們不傷和氣，穩固同盟，我家主公給我的建議是：以湘水爲界，湘水以東的江夏、長沙、桂陽三郡歸東吳，湘水以西的南郡、武陵、零陵歸我家主公，子敬將軍你看如何？”
魯肅想了想，回道，“待我稟明我家主公裁定後給你答覆。”
於是兩軍各自撤兵。魯肅回陸口去見孫權，告訴孫權劉備想以湘水劃界的打算，張召道，“我看此事也行。零陵雖然我們已經取得，可零陵在湘水以西，直面南郡的威脅，不易防守。現我們的敵人是曹操，聽聞曹操已去取漢中，我們不如趁機去取合肥，然後徐圖中原，這比我們在這與劉備相耗好的多。”
魯肅也道，“子布所言甚是，望主公三思。”
孫權想想也是，於是令魯肅趕回零陵，與關羽鑑定協議，劉備與孫權兩下平分荊州，以湘水爲界，湘水以東江夏、桂陽、長沙三郡歸東吳，湘水以西南郡、武陵、零陵三郡歸劉備，孫權將取得的零陵郡歸還劉備，將零陵太守郝普等不願爲東吳效力的三郡官員一律歸還給劉備，兩家就此罷兵言和。
此次湘水劃界，孫權雖得了長沙與桂陽兩郡，但孫權還是覺得吃了虧，這是因爲原先借給劉備的南郡徹底歸了劉備，而南郡無論是戰略位置還是物產資源都要比長沙、桂陽強的多，所以，孫權對此還是耿耿於懷。