柴榮把內部事務處理妥當之後，下一步就要開始他的統一大業了。第一個目標不是契丹卵翼下的北漢，王樸之前的說先南後北，先唐後蜀，正和柴榮的想法一致。柴榮早就看上了淮南這片千里沃土，淮南的地理位置非常重要，淮南是長江一線的戰略外圍，不打掉淮南，江南就穩如泰山。
三百多年前，北周武帝宇文邕在呂梁大敗陳朝吳明徹部，將陳軍最精銳的主力消滅殆盡，隨後宇文贇奪去淮南，從而讓後來的隋文帝楊堅順順當當的下了江南。柴榮想：宇文邕這個大周皇帝能取淮南，朕這個大周皇帝爲什麼就不能？！
顯德二年（公元955年）十月，柴榮遣宰相李穀爲淮南道前軍行營都部署，南征軍統帥，許州節度使王彥超、侍衛馬軍都指揮使韓令坤（趙匡胤的好朋友）等十二人爲副，以所部兵馬南下。柴榮吸引了上次北伐太原時官軍出現剽掠百姓的教訓，在南征詔書中特地交待：“不犯秋毫，有如時雨，百姓父老各務安居，剽擄焚燒必令禁止。”
和五代同時期的十國中，在歷史上的名氣都不是很大，而其中名氣最響和實力最強的一個，就是南唐。公元937年，原名徐知誥的李昪廢除吳國皇帝楊溥，在金陵稱帝，國號大唐。李昇沒多少知名度，但他有一個寶貝孫子，可以說人人盡知：南唐後主李煜。而此時做爲柴榮對手的南唐皇帝，是李煜的父親，唐元宗李璟（也稱南唐中主）。
李璟前幾年滅了閩國和楚國，可惜李璟華而不實，沒多久，湖南丟了，福建也丟了大半，弄的灰頭土臉。李璟的愛好是填詞，和好朋友馮延巳（音四）一起比較詞章。
突然一聲炸雷傳來：周軍南下，聲勢空前，周軍前鋒已至壽州（今安徽壽縣）。李璟只好放下詩詞愛好者的身份，以大唐帝國（應該稱爲小唐帝國）皇帝的身份調兵遣將，命神武統軍劉彥貞率三萬唐軍趕赴壽州，協助駐守壽州的清淮節度使劉仁贍。奉化節度使皇甫暉和常州團練使姚鳳率三萬唐軍出屯定遠（今安徽定遠），協同劉仁贍等部防禦周軍。隨後又派六皇子安定郡公李從嘉（大詞人李煜正式出場，雖然這時還只是混個臉熟）爲沿江巡撫使，負責沿江一線的防禦。
周軍統帥李穀率軍從正陽（今安徽壽縣）渡過淮河，進入南唐境內。周軍比較生猛，接連取得三場小規模戰役的勝利，李穀這人也有意思，三場小勝一場不落的都報給了柴榮，生怕皇帝忘了記功。
柴榮大喜，決定到淮南看一看，顯德三年（公元956年）正月八日下詔親征淮南。行前柴榮沒忘擴建汴梁城的事情，發動十餘萬農民趁着農閒開始動土，並留下向訓和王樸守汴梁，自己率禁軍南下。
而唐軍劉彥貞部已經到了淮河邊上，防禦周軍。周將李穀不想送死，對衆將說：“南軍勢盛，且善長水戰，水戰我們不是對手，不如退後，等皇帝到來，再做打算。”便率軍回撤至正陽，把糧草也燒了，軍中大亂。柴榮聽說李穀準備撤退，忙派人去阻止李穀胡鬧，但晚了一步，柴榮大罵李穀糊塗。
劉彥貞看到周軍後退，想出出風頭，挺軍北上，也來到正陽。唐軍人多，遍佈淮南南岸，陣勢非常浩大。劉彥貞不想錯過時機，全殲李穀部，壽州城中的劉仁贍急忙勸止：“現在不是打速決戰的時候，周軍後隊馬上就跟上來，將軍應該以逸待勞。”劉彥貞聽不進去，甚至不讓唐軍吃飯，催趕着前去進攻周軍。
劉彥貞也命中該絕，正好遇上渡過淮河的周軍李重進部，周軍是吃飽喝足過來的，自然有力氣打。劉彥貞沒聽說過李重進這個人，哪把李重進放在眼裡？下令佈陣，馬軍在前，而劉彥貞有豐富的創造力，將戰馬用鐵條連起來，馬卒都持着用木頭刻的怪獸盾，號稱“揵馬脾”，爲了不讓周軍過來，在陣地前面撒下無數的鐵蒺藜。周軍看到劉彥貞在耍寶，都狂笑起來：老子也是見過大世面的，從沒見過這等活寶。
李重進不管劉彥貞搞什麼花活，既然上戰場，早就將生死拋到雲外，還在乎你這個？李重進大喝：“殺！”周軍的將士們叫喊着衝殺過來，唐軍的同志們都還沒吃飯呢，都餓的兩眼昏花、金星亂冒。何況前軍都被鐵條給拴死了，根本沒法動彈。周軍大喜，管不了你“揵馬脾”還是“揵驢脾”了，好一陣屠殺，唐軍死傷殆盡，伏屍三十里，淮河裡血腥沖天，劉彥貞光榮殉國。
而前來助陣的唐軍皇甫暉部和姚鳳部不敢來觸李重進的黴頭，撤到了清流關（今安徽滁縣），而鎮守滁州的地方軍政長官王紹顏乾脆棄城逃回江南去了。
劉彥貞連最基本的軍事常識都不具備，還打什麼仗？軍人靠什麼打仗？勇敢頑強，但首先要吃飽飯，別說在冷兵器時代軍人要吃飯，現代戰場上不吃飯也能打勝仗的誰見過？而且最愚蠢的是劉彥貞居然把馬軍固定起來，陣地戰講究一個靈活機動，騎兵作戰尤是如此。
甚至懷疑劉彥貞是不是被周軍收買了，也不象，因爲劉彥貞也戰死了。戰爭的勝負取決於許多因素，但最主要的還是統帥之間的博弈，南唐軍主帥如果換成是李重進，李重進絕不會做這等傻事，真不知道李璟怎麼會派出這些活寶出來。
過了幾天，大周皇帝柴榮御駕親臨前線，柴榮對李穀擅自後退非常不滿，讓李重進取代李穀爲淮南道行營都招討。柴榮軍於淝水北岸（讓人不禁想起了苻堅），下令猛攻壽州城。城中的劉仁贍早就做好了防禦準備，任你周軍大水來，我自有土堰之法，一時沒攻下來。柴榮再發河南、山東、蘇北一帶數十萬壯丁來到壽州城下，協助官軍攻城。
周軍架梯四面攻城，但都被城中唐軍給壓了下去，周軍不服，繼續圍攻，不分白天黑夜，狂攻不止。周軍仗着人多，一拔被打掉了，另一拔再接着上。甚至周軍在城下擂鼓吹號，壽州城內的房屋牆壁都震動不已。而城外的南唐援軍根本打不進來，只好在外圍“觀戰”。
都說唐莊宗李存勖英武神勇，經常親冒雨箭上陣督戰，柴榮比起李存勖更加有魅力。柴榮坐在胡牀上，左右侍衛抱劍而立，柴榮指揮三軍攻城。這正好讓劉仁贍看到了，心想“擒賊先擒王，如果能了結了柴榮，我就可以翻盤。”便取出一張雕胎弓，搭箭朝柴榮就射。可柴榮距離太遠，箭距離柴榮幾步之地就掉在地上。
柴榮真是個頂天立地的大英雄，你劉仁贍不是想射死我嗎？好！“來人，把胡牀搬到劉仁贍箭能射到的地方去！”衆臣大驚，忙上前勸諫：“鋒鏑無情，陛下一身繫於天下，不可輕蹈險地，請陛下且避一避。”柴榮大笑：“如果劉仁贍一箭就能射死一個皇帝，那天下還會有皇帝嗎？你們怕，朕不怕！”侍衛只好照辦。
對於柴榮的英雄壯舉，史家極力稱讚：“以周世宗之神武確斷，當矢石而不懼。予觀自古帝王之達者一人而已。”象柴榮這樣頂天立地的英雄好漢，別說五代，縱觀上下五千年，能比得過的柴榮的基本沒有。
柴榮坐下來後，不斷招呼城上的劉仁贍：“劉將軍，朝朕這射！若箭不夠，朕可以給你。”。劉仁贍也不客氣，挽起強弓再射，可這支箭再次落到了柴榮前面不遠的地方。劉仁贍大驚“怎麼就是射不死柴榮？難道這真是天意不成？”把弓丟到地上，仰天長哭：“此城必破，吾必不守，但身是唐臣，終不做乞生之虜！唯欠一死，報我君王。”
劉仁贍射不死柴榮，柴榮也攻不下壽州城，兩軍就這樣僵持着。柴榮沒想到劉仁贍這麼硬朗，派人去城中勸劉仁贍：“劉將軍忠勇無二，義烈可風，但壽春孤城，終不能抗十萬無敵王師。兩軍死戰於此，城中百姓何罪，受此驚恐？降我大周，位不失三公！”劉仁贍將來使亂棍打出：“回去告訴柴榮，仁贍終死，絕不屈節！”
柴榮還不死心，只帶着幾個侍衛到城下，大聲招呼劉仁贍：“劉公何苦！李璟昏亂，早晚要被朕生俘汴梁，公爲誰守？朕素服公之肝膽雄略，若公能順民心天意，與朕南征北戰，掃定四海，萬民安樂，豈不快意？！”
劉仁贍微笑不從，答：“仁贍效節唐室，自當全一而終，今日之事，唯有死戰！”
柴榮精通兵法要訣，知道不能師老於此，萬一等到周軍力疲之時，南唐援軍殺過來，這仗就沒法打了。柴榮決定先敲掉南唐軍外援，派殿前都虞候趙匡胤帶着禁軍一部夜襲清流關，拔掉南唐國都金陵的外圍要塞，一是斷掉唐軍救援壽州的可能，二可以威懾一下李璟。
趙匡胤輕進至清流關，唐將皇甫暉駐紮在關外山前，看到周軍來了，做好應戰準備。哪知趙匡胤抄了皇甫暉的身後，從山後邊殺了過來。皇甫暉不知周軍底細，不敢戰，撤入滁州。趙匡胤在後面跟着，皇甫暉在城上對趙匡胤喊道：“姓趙的，咱們弟兄各爲其主，並沒有私仇，有種的等我出城列好陣，咱們再會會，敢不敢？”
趙匡胤大笑“君子不乘人之危，我等你就是。”皇甫暉率軍出城，兩軍開始捉對廝殺。趙匡胤拍馬揮棍，直取皇甫暉，皇甫暉哪裡是趙匡胤的對手，沒過幾個回合，被趙匡胤一個蛟龍出水，一棍打在皇甫暉的後腦上，顛下馬來，周軍上前把被打成“重度弱智”的皇甫暉捆成了糉子，另外一位唐將姚鳳也享受了同等待遇。趙匡胤率得勝之師進入滁州。