東晉時的五胡十六國，實在並不成其爲一個國家，所以其根基並不穩固。看似聲勢雄張，只是沒有遇見強敵，一戰而敗，遂可以至於覆亡。枋頭戰後，慕容垂因被猜忌出奔。前秦乘機舉兵。其明年，前燕竟爲所滅。前秦又滅掉前涼，又有統一北方之勢。然其根基亦並不是穩固的。
此時北方的漢族，因爲沒有政府的領導，雖有強宗巨室和較有才力的人，能保據一隅，或者潛伏山澤，終產生不出一個強大的政權來，少數的五胡，遂得橫行無忌。然他們亦是人各有心，而且野蠻成習，頗難於統馭的。
五胡中苟有英明的酋長出來，亦只得希望漢族擁戴他，和他一心，要聯合許多異族以制漢族，根本上是沒有這回事的。若要專恃本族，而把漢族以外的異族剷除；則（一）因限於實力，（二）則漢族此時，並不肯替此等異族出死力，而此等異族，性本蠻悍，加以志在掠奪，用之爲兵，似乎頗爲適宜，所以習慣上都是靠他們做主力的軍隊，盡數剪除，未免削弱兵力；所以其勢又辦不到。
苻堅的政策，是把氐人散佈四方，行駐防政策，而將其餘被征服的異族置之肘腋之下，以便監製。儻使他的威力，能夠始終維持，原亦未爲非計。然若一朝失足，則氐人散處四方，不能聚集，無復基本隊伍，就糟了。所以當時，苻堅要想伐晉以圖混一，他手下的穩健派，如王猛，如其兄弟苻融等，都是反對的。
而苻堅志得意滿，違衆舉兵，遂以383年大敗於淝水。北方異族，乘機紛紛而起。而慕容垂據河北爲後燕，姚萇據關中爲後秦。苻堅於385年爲姚萇所殺。子丕，族子登，相繼自立，至394年，卒爲姚萇之子姚興所滅。
此時侵入中原的五胡，已成強弩之末。因爲頻年攻戰，死亡甚多，人口減少，而漢族的同化作用，仍在逐漸進行，戰鬥力也日益衰弱。其仍居塞外的，卻比較氣完力厚。此等情勢，自公元4世紀末，夏及拓跋魏之興，至6世紀前半爾朱氏、宇文氏等侵入中原，迄未曾變。自遭冉閔的大屠戮後，胡、羯之勢，業已不能復振。只有匈奴鐵弗氏，根據地在新興（今山西忻縣）。還是一個比較完整的部落。
拓跋氏自託於黃帝之後，說其初建國北荒，後來南遷大澤，因其地“昏冥沮洳”，乃再南遷至匈奴故地。自託於黃帝之後，自不足信，其起源發跡之地，該不是騙人的。他大約自西伯利亞遷徙到外蒙古，又逐漸遷徙到內蒙古的。晉初，其根據地在上谷之北，今灤河上源之西。劉琨藉其兵力以御匈奴，畀以雁門關以北之地。
拓跋氏就據有平城，東至今察哈爾的西部。這時候，自遼東至今熱河東部，都是慕容氏的勢力範圍。其西爲宇文氏，再西就是拓跋氏。慕容氏盛時，宇文氏受其壓迫，未能自強，拓跋氏卻不然。拓跋氏和匈奴鐵弗氏是世仇。苻堅時，拓跋氏內亂，鐵弗的酋長劉衛辰引秦兵把他打破。苻堅即使劉衛辰和其族人劉庫仁分管其部落。劉庫仁是拓跋氏的女婿，反保護其遺裔拓跋珪。其時塞外，從陰山至賀蘭山，零星部落極多，拓跋珪年長後，逐漸加以征服，勢力復張。劉衛辰爲其所滅。其子勃勃奔後秦。姚興使其守禦北邊，勃勃遂叛後秦自立。後秦屢爲所敗，國勢益衰。
395年，慕容垂之子寶伐後魏，大敗於參合陂（今山西陽高縣）。明年，慕容垂自將伐魏。魏人退出平城，以避其鋒。慕容垂入平城，而實無所得。還至參合陂，見前此戰敗時的屍骸，堆積如山，軍中哭聲振天，慚憤而死。慕容寶繼立。拓跋珪大舉來攻，勢如排山倒海。慕容寶棄其都城中山，逃到龍城，被弒。少子盛定亂自立，旋亦被弒。弟熙立，因淫虐，爲其將馮跋所篡，是爲北燕。其宗族慕容德南走廣固（今山東益都縣）。自立，是爲南燕。拓跋珪服寒食散，散發不能治事，不復出兵。北方形勢，又暫告安靜。
南方當這時候，卻產生出一種新勢力來。晉朝從東渡以後，長江上流的形勢，迄較下流爲強，以致內外相持，坐視北方的喪亂而不能乘。當淝水戰前六年，謝玄鎮廣陵，今江蘇江都縣。才創立一枝北府兵，精銳無匹，而劉牢之爲這一枚軍隊的領袖。淝水之戰，就是倚以制勝的。下流的形勢，至此實已較上流爲強。
東晉孝武帝是一個昏憒胡塗的人。始而信任琅邪王道子，後來又猜忌他，使王恭鎮京口（今江蘇鎮江），殷仲堪鎮江陵以防之。慕容垂死的一年，孝武帝也死了，子安帝立。398年，王恭、殷仲堪同時舉兵。道子嗜酒昏愚，而其世子元顯，年少有些才氣。使人勾結劉牢之倒戈，王恭被殺。而上流之兵已逼，牢之不肯再戰。殷仲堪並不會用兵，軍事都是委任南郡相楊佺期的（南郡，治江陵）。而桓溫的小兒子桓玄在荊州，仍有勢力，此時亦在軍中。晉朝乃以楊佺期刺雍州，桓玄刺江州，各給了一個地盤，上流之兵才退。後來殷仲堪和楊佺期，都給桓玄所並。
402年，元顯乘荊州饑饉，舉兵伐玄，劉牢之又倒戈，桓玄入京城，元顯和道子都被殺。桓玄是個狂妄的人。得志之後，奪掉了劉牢之的兵權，牢之謀反抗，而手下的人不滿他的屢次倒戈，不肯服從，牢之自縊而死。桓玄以爲天下無事了，就廢安帝自立。然劉牢之雖死，北府兵中人物尚多。404年，劉裕等起兵討玄，玄遂敗死。安帝復位。劉裕入居中央，掌握政權，一時的功臣，都分佈州郡，南方的形勢一變。
409年，劉裕出兵滅南燕。想要停鎮下邳，經營河、洛，而後方又有變故。先是399年，孫恩起兵會稽（今浙江紹興），剽掠沿海。後爲劉牢之及劉裕所破，入海島而死。其黨盧循襲據廣州。桓玄不能討，用爲刺史。盧循又以其妹夫徐道覆爲始興相（今廣東曲江縣）。
劉裕北伐時，盧循、徐道覆乘機北出，沿江而下，直逼京城。此時情勢確甚危急。劉裕速回兵，以疲敝之衆，守住京城。盧循、徐道覆不能克，退回上流，爲裕所襲敗。裕又遣兵從海道襲據廣州，把他們打平。劉裕於是剪除異己。
至417年，復大舉以滅後秦。此時後魏正值中衰；涼州一隅，目前秦亡後，復四分五裂，然其中並無強大之國（氐酋呂光，爲苻堅將，定西域。苻堅敗後，據姑臧自立，是爲後涼。後匈奴酋沮渠蒙遜據張掖叛之，爲北涼。漢族李暠據敦煌，爲西涼。鮮卑禿髮烏孤據樂都爲南涼。後涼之地遂分裂。又有鮮卑乞伏國仁，據隴右，爲西秦。後涼爲後秦所滅。西涼爲北涼所滅。南涼爲西秦所滅。西秦爲夏所滅。北涼爲後魏所滅。姑臧，今甘肅武威縣。張掖，敦煌，今縣皆同名。樂都，今碾伯縣。西秦初居勇士川，在今甘肅金縣後徙苑川，在今甘肅靖遠縣）；夏雖有剽悍之氣，究系偏隅小國；倘使劉裕能在關中駐紮幾年，擴清掃蕩之效，是可以預期的，則當南北朝分立之初，海內即可有統一之望，以後170年的分裂之禍，可以免除了。然舊時的英雄，大抵未嘗學問。個人權勢意氣之爭，重於爲國爲民之念。以致同時並起，資望相等的人物，往往不能相容，而要互相翦滅，這個實在使人才受到一個很大的損失。
劉裕亦是如此，到滅秦時，同起義兵諸人，都已被翦除盡了。手下雖有幾個勇將，資格都是相等的，誰亦不能統率誰。而劉裕後方的機要事務，全是交給一個心腹劉穆之的，這時候，劉穆之忽然死了，劉裕放心不下，只得棄關中而歸，留一個小兒子義真，以鎮守長安。諸將心力不齊，長安遂爲夏所陷。劉裕登城北望，流涕而已。內部的矛盾，影響到對外，真可謂深刻極了。
420年，劉裕篡晉，是爲宋武帝。三年而崩。子少帝立，爲宰相徐羨之等所廢，迎立其弟文帝。文帝亦是個中主，然無武略，而功臣宿將，亦垂垂向盡。自北府兵創立至此，不足50年，南方新興的一種中心勢力，復見衰頹。北魏拓跋珪自立，是爲道武帝。道武帝末年，勢頗不振。子明元帝，亦僅謹守河北。明元帝死，子太武帝立，復強。公元431年，滅夏。436年，滅燕。涼州之地，亦皆爲其所吞併。天下遂分爲南北朝。