正如曹操所料，在曹操攻下陽平關之時，孫權集結十萬大軍前去攻打合肥。孫權此次勢在必得，幾乎帶上了所有大將，有呂蒙、陳武、甘寧、淩統、丁奉、徐盛、潘璋、宋謙、蔣欽、賀齊、周泰等二十餘員，孫權命令周泰總督糧草，八月初起兵，中旬過逍遙津抵達合肥城下。
合肥守將張遼緊急召衆將商議。護軍薛悌忽然想起曹操臨起兵漢中時的囑咐，拿出曹操留下的綿囊遞給張遼，張遼打開視之，上面寫道：賊至，張遼、李典二位將軍出擊，樂進守城，護軍薛悌不參戰。
看罷，張遼將信箋又遞於衆將觀看，張遼道，“主公的意思很明白，主公是說：待敵軍正在集結時由我與李典將軍出其不意攻之，樂將軍守城。眼下敵人正在集結，李將軍可願與我出城攻之？”
李典素來與張遼不睦，但今見張遼置生死於度外便慷慨地道，“此乃國家大事，我李典怎能因私而廢公，我願與將軍共同出戰。”張遼大喜，於是從守城的八千兵士中挑出八百身強力壯之人，殺豬宰牛，當晚大吃一頓，次日凌晨，趁東吳兵還未起牀之際，張遼與李典打開城門，率八百騎兵直奔孫權的中軍大營殺去。直衝到孫權的大營門口，張遼大喝道，“張遼來也！”，接連刺死了十多個迎敵的兵士，斬殺兩員將校。
孫權聽營內大亂，忙穿好衣服，有兵士來報說張遼撞營，孫權大驚，搶過一兵士的長矛往外便走，正好與陳武踫面，陳武急忙孫權的戰馬牽來，兩人上了戰馬向一山丘奔去，正遇張遼。陳武挺槍來戰，由於慌亂，戰不十合，被張遼一槍刺死。
宋謙、徐盛趕來雙戰張遼，張遼奮起神威，一槍刺中徐盛的肩膀，徐盛丟槍而逃，宋謙敵張遼不住，撥馬便逃。
由於張遼來的太突然，各個營寨的衆將都還來不及救援，孫權只好在慌亂之中帶着一部分兵士跑到了一座土山上，持矛自衛。張遼從來不認識孫權，只知他是一員大將，便在土山上衝孫權喊道，“敵將，跑到土山上算什麼英雄，有種下來單挑！”
此時孫權臨近營寨的潘璋引軍趕來，將張遼、李典的八百敢死隊圍困起來，張遼見事不妙便率軍突圍，與李典殺開條血路突出重圍，回頭看到還有幾百名兵士沒有衝出，張遼與李典又返身殺回，殺散吳兵，潘璋、周泰、蔣欽、丁奉見張遼如此神勇都不敢迎敵。
張遼救出被圍兵士，向合肥返回。吳兵不敢追趕。
孫權被張遼八百勇士突然一擊，頓時頹靡了，自己這是十萬大軍啊，怎麼就被張遼千餘人在數萬人的營寨中殺了好幾個來回？陳武也被斬殺，宋謙、徐盛也被刺傷，這張遼也太勇猛了。孫權越想越怕。
待後面的部隊陸續趕到，孫權也沒敢去攻合肥城。這是因爲一是孫權的軍隊士氣底靡，二是孫權見合肥城城高牆厚極難攻打，三是由於天氣炎熱，部隊中有不少兵士出現拉稀現象，孫權感到無力再去攻打合肥，於是便命令撤軍。
孫權的大軍開始陸續過逍遙津後撤，最後只剩下五支軍隊，包括孫權手下的衛隊一千人馬及甘寧、淩統、呂蒙、蔣欽各自手下親兵共計二千人馬還沒過逍遙津。
孫權大軍撤兵，張遼在合肥城上看的一清而楚，這天他見逍遙津北岸只剩兩千人馬還未撤走，張遼便決定殲滅這支部隊，於是他命令打開城門，率幾千人馬殺出合肥城，奔孫權他們而去。
張遼命令一支騎兵快速地去佔領逍遙津渡口的橋頭，將橋毀掉，切斷孫權的退路。孫權正率領着部隊往渡口趕着，忽見張遼率軍殺來，大驚失色，忙急令讓過河的部隊返回救援。一時間，張遼的騎兵已經追至，甘寧回身拼命射箭，箭盡便持矛拼殺。
淩統率親兵殺出重圍卻不見孫權，於是又返身殺回，將孫權救出，身上多處受傷，保護着孫權來到渡口，此時張遼兵擁至，兩軍混戰，東吳兵節節敗退。甘寧見號角手已嚇得不知所措，便對他大喝道，“爲何不吹號角！再不吹就殺了你！”號角手這才吹響戰鬥的號角，東吳兵爲之一振，奮力拼殺，呂蒙、蔣欽才保護着孫權來到橋上，卻見橋面中間已被拆除有一丈餘寬，孫權連連叫苦，仰天長嘆，“唉！看來我孫權今日要命喪此地也！”
親兵待衛谷利見狀忙大叫孫權把馬後撤幾步，讓孫權雙手抓牢馬鞍，然後揮馬鞭猛擊馬的屁股，這馬一聲嘶鳴向前衝去，一躍而過斷橋，孫權這才得以逃脫。甘寧等人也同樣驟馬過橋，淩統率親兵戰至一人，棄馬跳河，帶甲潛回對岸。
對岸已有大將賀齊率軍接應。此時沒有過河的東吳兵失去了將領紛紛棄戈投降，張遼便問降兵有個紫色鬍鬚、身長腿短、善於騎射的人是誰？降兵便告訴是孫權，張遼嘆息不已，言道要早知孫權模樣早把孫權捉住了。
孫權坐上大船回東吳，在船上與衆將飲宴，賀齊哭道，“主公身爲人主，應當持重，怎可斷後，象今天情形如此危險讓將士們都驚恐萬分，以後主公可不要再這樣了。”孫權謝道，“將軍之言是也，此次大敗也是我太粗心大意了，以後行軍勿加小心。”
此時有兵士報告淩統回來了，淩統進見跪拜於地。孫權驚喜異常，但見淩統盔甲不整、渾身上下濺滿了血漬，身上也多處受傷，孫權忙起身過去扶起淩統，淩統哭道，“我的親兵全部都陣亡了……”孫權安慰道，“凌將軍，辛苦你了，你放心，我再補給你兩倍的精兵。”孫權吩咐衛兵扶淩統下去醫治傷口。
經過了逍遙津這一戰，張遼的名字威震江東，江東這纔有了“張遼止啼”的這一說法，意思是江東的百娃見小孩哭了哄不好便嚇唬道，“莫再哭，張遼來了！”小孩害怕，便止住了哭聲。此語甚至傳到了日本，曰“遼來々”。