隋朝之前的朝代是南北朝（420年-589年），南北朝分为南朝和北朝，南朝又分为宋、齐、梁、陈四个朝代，北朝又分为北魏、东魏、西魏、北齐、北周五个朝代。南北朝是历史上的一段大分裂时期。

南朝，宋乃刘裕于公元420年夺取东晋政权后所建立，国号曰宋，建都建康，是南朝当中疆域最大者，公元479年为萧道成所篡建立齐 。齐，国号曰齐，建都健康，东昏侯时国内大乱，公元502年为萧衍所篡建立梁。梁，国号曰梁，建都健康，梁武帝时国力颇盛曾一度取得淮北和汉中，公元557年为陈霸先所夺，代梁称帝建立陈。陈，国号曰陈，建都建康，是南朝当中版图最小者，589年为隋所灭。

北朝，北魏乃鲜卑族拓跋部所建，其前身在十六国时代为代国，淝水之战后拓跋珪重建代国，后改国号曰魏，公元398年建都于平城，公元399年改号称帝，统一北方，因种种因素，造成汉化与反汉化两大阵营的对抗，引起六镇之乱，瓦解了北魏王朝。公元534年北魏分裂成东魏与西魏，隔黄河而治，东魏后为北齐所代、西魏为北周所代。公元581年，北周大臣杨坚受禅称帝，建立隋朝，国号大隋，公元583年建都大兴，公元589年灭南方的陈朝，结束南北朝分裂的局面，全国再度统一。