6月30日夜，晉冀魯豫野戰軍4個縱隊共13個旅。12萬餘人，以突然勇猛的動作，一舉突破國民黨軍的黃河防線，殲敵一部。劉汝明急令整編第55師第74、第20旅退集鄆城，整編第68師t力和整編第55師第181旅退守菏澤。
第1縱隊4個旅在獨立第1旅配合下，當即包圍鄆城，並於7月2日攻佔該城四關。其餘3個縱隊進至鄄城、皇姑庵地區，待機打援。
對晉冀魯豫野戰軍主力渡過黃河，國民黨軍陸軍總司令顧祝同甚爲震驚，慌忙從豫北、豫皖蘇邊界地區抽調3個整編師又1個旅，連同整編第70師組成第2兵團增援魯西南。
該兵團司令官王敬久以第153旅至定陶，與退守菏澤的部隊組成西路;以地方團隊防守曹縣城;以整編第32、第66師各兩個旅經金鄉北上，會同整編第70師組成東路;將整編第58師及整編第66師第199旅配置在金鄉作爲後應。企圖以整編第55師堅守鄆城，吸引晉冀魯豫野戰軍主力於城下，然後以東、西兩路援軍向北鉗擊其側後，迫其背水作戰。
劉伯承、***識破了這一企圖，立即採取攻其一點(鄆城)、吸其來援(金鄉)、啃其一邊(定陶)、各個擊破的方針，以第1縱隊等部攻取鄆城;以第2、第6縱隊迅速從東、西兩路援敵之間向南，攻佔定陶、曹縣;以第3縱隊進到定陶以東待機。
7月8日晨，第1縱隊攻克鄆城，全殲整編第55師師部及兩個旅。10日夜，第6縱隊攻佔定陶，全殲第153旅;第2縱隊收復曹縣城;第3縱隊到達定陶以東地區。
7月10日，國民黨援軍東路整編第70師(1個半旅)、整編第32師和第66師主力，分別進至六營集、獨山集、羊山集地區，由北向南擺成一字長蛇陣。晉冀魯豫野戰軍當即調整部署，轉兵東進。
13日拂曉，第1縱隊將位於六營集的整編第70師、獨山集的整編第32師隔開，並切斷其與羊山集整編第66師的聯繫。當日中午，第2縱隊在謝集殲敵1個團，隨即向東協同第3縱隊包圍羊山集。
王敬久發覺所部被分割後，舉棋不定，先令北邊的整編第70師和南邊的整編第66師向中間的整編第32師靠攏;復令整編第32師向北接應整編第70師，再向南靠攏整編第66師。
整編第32師在第1縱隊追擊下，師部率1個旅逃入六營集與整編第70師會合，其第139旅則被第1縱隊和第6縱隊一部追殲於逃往嘉祥的途中，防守嘉祥城的整編第70師一部也被迫向濟寧撤逃。
與此同時，第6縱隊主力緊縮對六營集的包圍圈。劉伯承、***考慮，六營集爲儀有200戶人家的村莊，糧食飲水奇缺，敵軍兩個整編師師部和兩個半旅擠在這一狹小地區內，若對其四面圍攻，敵必作“困獸之鬥”。因此採取“圍三闕一”部署，以第1縱隊在六營集以東布成袋形陣地，以第6縱隊於14日20時由西向東對六營集發起猛攻。整編第32、第70師向**圍，被第1縱隊全殲。
7月15日，第2、第3縱隊對羊山集發起攻擊，但因該處守軍以羊山作依託，南側地形低窪、積水較多，雖經兩天激戰，進展不大。
此時，蔣介石得知整編第3Z師等部連續被殲和羊山集整編第66師告急等情況，於19日飛抵開封坐鎮指揮，從西安、洛陽、豫北、山東、漢口等地抽調7個整編師叉2個旅向魯西南馳援。20日又令王敬久率整編第58師和第199旅，在飛機、坦克掩護下由金鄉北上，以解羊山集之圍。
劉伯承、***爲爭取先機之利，以獨立第1、第2旅進至萬福河阻援，將第199旅和由羊山集出來接應的1個團全殲。接着，集中第2、第3、第6縱隊於27日對羊山集發起總攻，戰至28日晚，全殲整編第66師師部及2個旅。
野冀魯豫野戰軍採取南北牽制，寬正面、多地段的突然強渡黃河，積級創造與捕捉戰機，調動敵軍就範，把攻城與野戰、分割與圍殲相結合，創造了以15個旅的兵力殲敵4個整編師共9個半旅6萬餘人的戰績。從而打亂了國民黨軍在南部戰線的戰略部署，開闢了進軍大別山的道路，揭開了人民解放軍戰略進攻的序幕。
29日，毛**親自起草了一份標有三個“A”字的加急絕密電報:“現陝北情況甚爲困難,如陳賡、謝富治及劉伯承、***不能在兩個月以內以自己有效行動調動胡宗南軍一部”,“陝北不能支持”。
這個時候，晉冀魯豫野戰軍主力部隊經過近一個月的連續作戰，已經極度疲勞，而且傷亡較重，亟需休整補充。但劉伯承、***看完標有3個“A”字的電報後，簡單商量了一下，馬上覆電中央--完全服從中央決定，半個月後行動。然而8月初的魯西南風雲突變，劉鄧大軍面臨歷史抉擇。
首先是連降暴雨，黃河水猛漲，即便敵人不炸堤，本身也有決堤的危險，黃河兩岸出動了10幾萬民工修堤護堤，連部隊一部也拉上去了，我軍處在水淹七軍的危險中。
其他戰場；陝北告急，山東告急。劉鄧陳庚如果不能協助陝北調動胡軍，打開局面，陝北將難以支持。
由於華野外線損失慘重，躲入魯西南，實際上是將山東敵人大量引向魯西南，由於華野外線無力再戰，敵軍集中30旅於魯西南大打出手，分五路對魯西南形成合擊態勢，此後，華野5個縱隊渡過運河，集結在鄆城一線，躲在劉鄧大軍身後，構築工事自保。
劉鄧軍雖然獲得魯西南大捷，士氣高漲，然而，自身消耗嚴重，傷亡了1萬3千人，炮彈消耗殆盡，傷員需要安置，俘虜需要消化，糧食和彈藥需要補充，戰鬥力下降，難以連續作戰。***心裡明白那三個“A”字是當時中央約定的表示最緊急和極秘密的電報等級。