第四次戰役第一階段結束後，軍委已從戰場的形勢看出：美軍如果不被大量消滅，是不會退出朝鮮的。要消滅大量的美軍，則需要一定的時間，因此，抗美援朝有長期化的可能，我軍必須做好長期的準備。
我軍從入朝作戰以來，先後已打了四個戰役，參戰的6個軍消耗過大，一直沒有補充和休整。所有作戰物資要從國內補充，途中遭受美軍飛機的轟炸，前線彈藥給養供應嚴重不足，這樣要堅持長期作戰是不可能的。如何解決這個問題，成了毛主席和周恩來、彭德懷要考慮的問題。輪番作戰的問題被提出來了，最早提出輪番作戰的構想，是負責志願軍後勤保障工作的李富春，他是東北人民政府的副主席，也是東北軍區副政委。1950年11月13日，他給毛主席和周恩來的報告中，就提出了採取輪番作戰的建議：“當第一番部隊作戰一段時間後，由第二番部隊接替，第一番部隊撤回國內休整和補充，第二番部隊作戰一段時間後，由第三番部隊接替，第二番部隊撤回國內。三番部隊輪番作戰，輪番休整，這樣可以有效解決部隊兵員補充和休整的問題，是準備長期下去的好辦法。”
2月初，毛主席和周恩來開始考慮輪番作戰的問題，周恩來親自擬製**關於輪番作戰的計劃，並報給毛主席經修改後批准。於2月9日發電給各大軍區和志願軍總部。電報中就輪番作戰的計劃作了說明，主要內容是：將現在朝鮮作戰的9個軍，30個師作爲第一番志願軍。將第19兵團3個軍，20兵團2個軍，二野的3個軍，在湘西剿匪的47軍，共9個軍27個師作爲第二番志願軍。第二番志願軍於兩個月開抵朝鮮後，第一番志願軍即可逐步回國。其中宋時輪的9兵團3個軍開回山東整補，並歸還華東建制。50軍、66軍開回華北，接替20兵團兩個軍的守備任務。13兵團4個軍則留在平壤及其南北地區整補,作爲第二番部隊的臨時預備隊，並準備與二野3個軍及董其武23兵團的兩個軍，共9個軍27個師作爲第三番志願軍。如此輪番作戰，我既有生力軍，又能得到切實整補，既不致陷於被動，又能保持第一線作戰部隊旺盛的戰鬥力，使更多的部隊學會和美國侵略軍作戰，使我軍各部隊得到全面的鍛鍊。同時，爲了使作戰指揮不受輪番調動的影響，志願軍司令部、政治部及13兵團原有機構和工作人員均不調回，仍留在朝鮮前線工作。並決定各兵團、各軍所屬的炮兵團、後勤機構、兵站、物資、彈藥、醫院均留在朝鮮，供第二番部隊使用。
當9兵團司令員兼政委宋時輪得知9兵團要作爲第二番部隊回國時，向彭德懷要求留在朝鮮休整，並繼續參戰，得到彭德懷的同意。報告軍委後，軍委對輪番部隊的計劃又作了調整：第二番部隊改爲以9兵團3個軍（由12個師縮編爲9個師）、19兵團3個軍和3兵團3個軍，共9個軍27個師組成。3兵團是新組建的兵團，於1951年2月18日在北京組建。是由二野的12軍、15軍和60軍合編爲3兵團。3個軍分別來自3個兵團：12軍原屬3兵團，15軍原屬4兵團，60軍原屬18兵團。當時，他們正在西南地區剿匪。**任命陳賡爲3兵團司令員兼政委、王近山任副司令員、杜義德任副政委、王蘊瑞任參謀長、劉有光任政治部主任。19兵團司令員是楊得志，政委李志民，副司令員兼參謀長鄭維山、政治部主任陳先瑞。63軍軍長傅崇碧、政委龍道權。64軍軍長曾思玉、政委王昭。65軍軍長蕭應裳、政委王道邦。第三番部隊改爲以38軍、39軍、40軍、42軍、20兵團的2個軍（67軍、68軍）、第47軍、二野第二批3個軍（10軍、11軍、16軍），共10個軍30個師。
軍委規定：第二番部隊應於1951年4月上旬全部到達三八線地區，接替在漢江前線首批入朝的6個軍。19兵團於2月16日起開始渡過鴨綠江，向三八線挺進。3月18日起，3兵團開始進入朝鮮，向朝鮮內地開進。兩個兵團６個軍的到來，將使志願軍的兵力大增。
4月2日，美軍再次越過三八線，4月10日，李奇微又發起“無畏行動”向三八線以北繼續進攻。在李奇微的指揮下，第8集團軍第1軍的美3師、美25師、南1師、英軍第29旅在三八線的西線；美第9軍的美24師、美騎兵第1師、英軍第27旅、南6師在三八線的中線；美第10軍的陸戰第1師、美2師、美7師和南5師、南3師、南首都師在三八線的東線向我發起進攻。在此同時，美軍又對我後方交通線、物資囤積地進行空前猛烈的轟炸，阻撓我軍的反擊。同時，還出動軍艦對元山、新浦、清津等港口進行炮擊和封鎖。對東西沿海島嶼進行偵察，企圖爲下一步實施登陸做好準備。這時，聯合國軍擁有地面作戰部隊6個軍17個師，再加上3個旅和1個空降團，共34萬人。第一線的兵力有12個師另2個旅；第二線及後方的兵力共有5個師另1個旅和1個團，分別配置在春川、縣裡、水原、原州、江陵和大田地區。此外，還有2個師正由美國本土運往日本。而我軍在前線作戰的仍是原來的第一番部隊，3兵團仍在開進和集結之中，我軍第一線作戰部隊的兵力明顯少於美軍。戰局對我軍和人民軍是相當不利的，中朝軍隊在三八線以北陷入了苦戰之中。
這時我軍的戰線已後撤至三八線以北的朔寧、華川、楊口、至杆城一線，離三八線最近的華川、楊口到三八線已超過50公里。這條防線不能再向後退了，彭德懷和中朝聯合指揮部不斷地向部隊下達死命令：要堅決地堵住！等到第二番部隊到達集結地域爲止。
第四次戰役第二階段，從2月17日一直打到4月21日結束，歷時2個多月。志願軍和人民軍經過艱苦奮戰，殲敵5.5萬餘人。爭取到了2個多月的時間，完成了爲掩護第二番部隊開進的任務。至此，第四次戰役勝利結束，兩個階段從1月25日開始，到4月21日爲止，歷時87天，共殲敵7.8萬餘人。這個數字超過前三次戰役的總和。美軍從三七線推進到三八線地區，每前進1.3公里，就要付出900人的傷亡代價。但我方也傷亡5.3萬餘人，其中志願軍4.2萬餘人。但是，這次戰役我軍已被迫退到三八線以北附近地區。第四次戰役，規模之大，時間之長，戰鬥如此之慘烈，在朝鮮戰爭和抗美援朝戰爭中是前所未有。
麥克阿瑟終於下臺了。1個月前，即1951年3月下旬，當美軍推進到三八線附近地區時。美、英、法等國對是否再次越過三八線，以及以何種方式結束朝鮮戰爭，又發生了爭論。
英法等國擔心由於長期捲入朝鮮戰爭，會削弱西歐的力量，影響歐洲的穩定，認爲現在正是結束朝鮮戰爭的好時機。主張在三八線建立停火線，謀求通過談判來解決朝鮮問題。而美國呢，內部意見不統一，有的認爲美國的戰略應該是以歐洲爲主，亞洲爲次，畢竟蘇聯是美國潛在的對手。同意英、法的意見，就在三八線停住，不要再突破三八線使戰爭沒完沒了。
另外一種意見，認爲應該再越過三八線，建立統一的朝鮮，還不惜把戰火擴大到中國境內。其中，美國遠東軍司令、聯合國軍總司令麥克阿瑟就是最突出的代表人物。第四次戰役第二階段開始，戰線仍停留在三八線以南漢城至江陵一線。與第一階段相比，西線僅從水原推進到漢城多了幾十公里。麥克阿瑟已經有些不耐煩了，他認爲目前的局面是由於杜魯門總統太軟弱了，太顧忌爆發第三次世界大戰所至，而束住了美軍在朝鮮的手腳。他公開發表聲明：要求把軍事行動擴大到中國的沿海地區和內部基地，這樣，赤色中國就必定會發生大亂······