西晉滅亡以后，司馬氏的東晉偏安于江南，北方黃河流域先后出現(xiàn)十幾個割據(jù)的小政權，因為這些小政權多為少數(shù)民族建立的，史稱“五胡十六國”，而這一歷史時期也被稱為東晉十六國時期。

北方也曾一度為氐族建立的前秦政權所統(tǒng)一，但前秦統(tǒng)治者苻堅好大喜功，急欲統(tǒng)一中國，而在淝水之戰(zhàn)中被東晉打敗，前秦在各地的統(tǒng)治迅速崩潰，北方重新又陷入混戰(zhàn)之中，直到鮮卑族建立的北魏在439年才最終統(tǒng)一了中國北方。

南方的東晉，在420年被劉裕篡奪了政權，改國號為宋，史稱劉宋。此后政權如走馬燈一樣換來換來，先后又存在過齊、梁、陳三個朝廷，與劉宋一起，合稱南朝。鮮卑族建立的北魏，以及后來分裂出來的東魏、西魏，和分別取代東西魏的北齊、北周等五個政權，合稱北朝。因此，這一歷史時期也被稱為南北朝時期，這是中國歷史上第一個南北長期對峙的時代。