李經述得到情報，西鄉從道和川上操六爲了籌備這次戰爭，在日本徵兵三萬，俄國派了一萬兵，他們的陸軍裝備不比新式淮軍差，於是發電報給李鴻章，說八千淮軍不夠，請求國內支援。李鴻章收到李經述的電報，再次派淮軍老將葉志超從國內調兵兩萬，火速支援李經述。年過半百的葉志超早在1862年淮軍剛組建時就跟着李鴻章了，在剿滅太平軍和捻軍時戰功赫赫，此前朝鮮政變，他曾率軍進入朝鮮，熟悉漢城。
葉志超得令，帶着大同鎮總兵衛汝貴、高州鎮總兵左寶貴、毅軍總兵馬玉昆、侍衛豐升阿等率軍二十九營，共計二萬餘人由東北陸路入朝，火速到達朝鮮，駐防漢城外的牙山。
李經述見葉志超不到一週就開到了漢城，大喜，馬上讓袁世凱通知葉志超，讓他帶兵進駐漢城，以保護朝鮮王室爲由，控制景福宮，只要能將朝鮮國王李熙和閔妃控制在手裡，一旦段祺瑞平息東學黨的叛亂，他就可以名正言順地讓朝鮮國王下詔，請日本和俄國退兵。而且葉志超率軍進漢城，還可以保護各國駐朝使館和僑民，一箭雙鵰。
葉志超這個人，向來狂傲自負，他是淮軍的創業老將，此時年過半百，擔任直隸提督，武職從一品官員，但負責拱衛京師，是李鴻章的愛將，他覺得自己的官銜比李經述要高半級，加上他年紀比李經述大得多，戰功也顯赫，這次李鴻章讓葉志超聽從李經述的調度指揮，葉志超覺得很憋屈，不把李經述放在眼裡，雖然他也知道進駐漢城控制朝鮮王宮的戰略意義，但因爲這主意是李經述出的，袁世凱三番五次催促他，葉志超竟然置之不理，屯兵漢城外的牙山，既不派兵南下幫忙剿滅東學教亂黨，也不進駐漢城，每日與諸將置酒高會，日日笙歌。
李經述一看葉志超按兵不動，爲了不影響大局，便告知葉志超負責牽制日本駐朝公使大鳥圭介的五千日軍，自己帶八千淮軍進入漢城，馬上派軍保護各國使館，還控制了朝鮮王宮，讓李熙下詔，明確拒絕日本出兵；另外，讓他發佈《罪己詔》：當前朝鮮混亂的局面，都是由於國王的失德和官吏瀆職腐敗造成，朝廷將承諾改革，滿足亂民提出的部分要求，包括停止迫害東學教徒，自願回鄉者既往不咎；查明貪官污吏，一律嚴懲；改善起種賤民的待遇；不強制白丁戴平壤斗笠；允許青年寡。婦再嫁；廢除一切擾民的苛捐雜稅。
這些改革措施，都是李經述根據唐紹儀的報告有針對性地提出的，朝鮮國王的《罪己詔》發佈後，朝鮮南方民心大穩。段祺瑞本來在北洋軍官學校就表現優異，又以官費入柏林軍校，學習一年炮兵，在著名的埃森克虜伯兵工廠實習了半年，此時指揮炮軍作戰，如魚得水，不到半個月就收復了忠清道、慶尚道，轟死打死日本浪人六百多人，還派兵包圍了全州府。
內田良平一看這段老虎比唐紹儀兇狠何止百倍，加上製造暴亂讓日本出兵的任務已經完成，於是趕緊帶着浪人撤了，剩下的東學教徒，都是一些衣衫襤褸的農民，朝鮮朝廷一說既往不咎，他們帶着鋤頭就回家了，東學亂黨很快潰散，崔海月最後帶兩千教民開城門投降，暴亂基本平息。
正當李經述覺得大局已定，漢城外傳來一陣轟隆隆的炮響，葉志超的兩萬淮軍和日本駐朝公使大鳥圭介帶領的五千日軍打起來了。
當時中日兩軍陣地很近，牙山地勢較低，日本人積極備戰，早修築了炮臺，九門重炮居高臨下，佔據炮火優勢，一陣亂轟。葉志超根本就沒想到大鳥圭介這文弱公使，就敢憑五千日軍單挑他兩萬淮軍，每日照常醉酒笙歌，炮聲一響，倉促備戰。
葉志超靠着李鴻章，帶領的淮軍經過十來年的休養生息，戰鬥力大大下降。面對日本人的炮轟，葉志超異想天開，竟然派兩千騎兵殺出，企圖閃電奪取日本人的陣地。大鳥圭介驚訝之餘，命令日軍集中炮火攻擊，淮軍的騎兵跑到半路，就被炸上了天，可憐淮軍騎兵死傷一千二百多人，銳氣盡失。
淮軍騎兵大敗，日軍反而士氣高昂，繼續發射殺傷力比較強的榴霰彈，這種炮彈彈壁薄，內裝火藥及小鋼珠或鋼箭、鋼珠，彈頭裝有定時引信，能在預定目標上空爆炸，殺傷敵方。
高州鎮總兵左寶貴不懂這新式武器，大鳥圭介親手發射了一發定時的榴霰彈打到他的身邊，剛開始沒有爆炸，他竟然毫不知情，繼續指揮火炮發射，還擊日軍。結果，榴霰彈過了一會爆炸，彈片擊中的左寶貴的右眼，他傷重殉國。
如果葉志超能帶領淮軍堅守陣地，李經述帶着城裡的淮軍殺出，內外夾擊，日軍肯定大敗。但左寶貴一死，葉志超面對日軍強大的火力，心理防線竟然奔潰，帶一萬多名兵狂逃一百多裡，退守平安府。
當時，天空下着大雨，葉志超帶着殘兵敗將，恐日軍截殺，不敢走大路，光挑荊棘密佈的羊腸小路，很多士兵的軍服和臉都被荊棘所破，慘不仍睹。日軍一路追殺，淮軍死傷六千餘人，而日方只損失兩百人。
李經述帶五千淮軍出漢城，葉志超早已逃之夭夭，王士珍一看葉志超駐防的牙山，對李經述說：“此處地勢低窪，孤險無援，葉志超竟然在此駐兵，真是沒用兵常識，天下第一等蠢材，難怪會大敗！”
李經述默然不語，爲了避免更大的傷亡，他決定立即接管葉志超的淮軍，於是帶兵連夜趕往平安府，葉志超竟然給李鴻章發電報，謊報軍情，說牙山一仗，淮軍大捷，淮軍死傷二百，日軍傷亡兩千！
李經述收到消息，強壓住內心的怒火，把葉志超和一些淮軍將領請來營帳中議事，葉志超到了之後，李經述馬上命袁世凱帶親兵把葉志超五花大綁，葉志超反抗，大叫：“老子也是提督，你憑什麼抓我？老子跟中堂大人打仗時，你還光着屁股呢！”
李經述聽了面色突變，拔出袁世凱送的匕首，衆將以爲李經述要殺葉志超，一半默然不語，也有將領站出來替葉志超求情：“提督大人，大敵當前，殺大將恐會亂軍心！”
葉志超長期習武，體格非常健壯，長着稀疏的鬍子，脖子圓滾粗胖，腦袋後面拖着一條粗壯的辮子。袁世凱帶着兩個親兵，費了九牛二虎之力才把他按倒在地。
李經述拿刀上前，怒斥葉志超：“我全權指揮在朝軍隊，你不聽軍令不入漢城在先；兩萬淮軍對付五千日本陸軍，竟然不到兩個時辰就潰逃，貽誤軍機，導致淮軍傷亡慘重；兵敗之後，竟然還謊報軍情，還有，中堂大人每年撥付給你的軍費，一年少說也有幾十萬兩，你去營地看看，你的兵，連一雙像樣的鞋都沒有，他們打仗時穿草鞋，平日則赤腳，士兵們五年沒發新軍裝，只在胸前和背後縫上‘兵’的大布塊！你自己卻天天酒宴笙歌！這樣帶兵，打起仗來能不潰不成軍嗎？剛開始不懲罰你是怕動搖軍心，今日若不嚴懲你，莫說死去的幾千兄弟們不答應，你的兵都不答應！”
說完，李經述抓起葉志超又黑又粗的辮子，一刀割掉，這在當時，等同於“殺頭”，李經述道：“今日兩軍對陣，我姑且念你跟隨中堂大人多年，暫且饒你不死，收押入獄！”
葉志超本來就貪污軍餉，飛揚跋扈，李經述逮捕了葉志超，大快人心，衆將驚愕，對李經述大爲信服。李經述收編了剩下的一萬多名淮軍，整編成二十營，多派北洋軍官學校出身的軍官指揮，和自帶的五千淮軍一起，迅速回攻漢城外大鳥圭介帶領的日軍。