抗戰勝利後，蔣介石即決定開始整編全隊。這是出自軍政部長陳誠的建議，白崇禧期期以爲不可，他對蔣介石說：回憶一九二八年七月在北平小湯山舉行的裁兵善後會議，他曾堅決反對裁兵，並提出了以殖邊替代裁兵的辦法。如果當時統帥部考慮他的意見，則一九二九年以後的連年內戰可以避免，以後也不致引起日寇侵略，一爲之甚，其可再乎？！
白崇禧指出：“現在國共進行談判，但全面和平未可預期。我們總不能一面打仗，一面裁兵。蓋編余官兵若無妥當安置，即將釀成後患。此不能不予以注意。”但蔣介石那時深受陳誠所左右，一九四五年十一月十一日，在重慶召開“復員整軍會議”，一九四六年二月十六日，又在南京召集第二次會議，決定第一期“復員”軍官十五萬人，士兵一百萬人。並將五十八個軍整編爲師。這一切與國共之間整編方案毫無關係，完全是國民黨方面的單行道。
編余軍官怎樣處理呢？在全國各地一共設置了二十九個軍官總隊，另外還有三個分隊。這些軍官總隊一至二十歸中央訓練團負責，其餘的由所在省訓團負責。軍官總隊收容的軍官認爲他們在抗戰八年中，沒有功勞也有苦勞，怎麼可以一旦抗戰勝利，即使他們投閒置散？！想念及此，憤激填膺，因而索性離隊走單幫，砸戲院，有的甚至到孫中山陵墓哭訴，弄得舉國騷然，影響社會秩序。
一九四五年十二月二十日，美國總統杜魯門派美軍參謀總長馬歇爾爲特使，來中國調處國共關係。當時，由馬歇爾和國民黨代表張治中、代表周恩來組成最高軍事三人小組會議，到一九四六年二月二十五日，簽訂了《關於軍隊整編及統編部隊爲之基本方案》。依據這個方案，國共軍隊的比率，定爲五比一，即在六十個師中十一個師應由領導。後因國共戰爭範圍擴大，統編方案卒未實施。