然而邺城真正的高光时刻却始于南北朝时期，西晋灭亡之后，中原大地上烽烟四起，各种政权此起彼伏。公元308年，后赵石勒攻破邺城并放火将这座军事重镇付之一炬，但在定都襄国之后却后悔不已，因为后者的军事政治作用实在比不上邺城，于是着手在邺城旧地重建新都。其继任者石虎迁都邺城并大力扩建，最终促使邺城成为与长安、洛阳不相上下的大都市。可惜石虎为人残暴，其养孙冉闵推翻后赵建立冉魏，都城依然选在邺城。

进入南北朝之后，骑兵作战逐渐成为战场的主流，而定都邺城还有一个重要的因素，就是可以封锁进出太行山的骑兵通道。绵延的太行山脉将河北大地与山西高原隔离开来，沟通两地最多的是被称为“太行八陉”的八条通道，邺城正好位于滏口陉的东出口。而滏口陉又恰恰是最利于大规模骑兵行军的一条，前秦灭前燕走的是滏口陉，后燕灭西燕走的同样是滏口陉。

北魏分裂为东西魏之后，权臣高欢把持了东魏朝政，在将朝廷移至邺城的同时，还把洛阳的四十万百姓一并迁移，邺城瞬间成为北方第一大城。高欢死后，其子高洋代东魏而自立，是为北齐，此时邺城与北周的都城长安分别位于东西城市群的榜首。公元575年，北齐在于北周的对决中落败，北周武帝宇文邕攻破邺城，长江以北再次归于一统，而对于一个统一的王朝来说，邺城的存在本身就是不安定的因素。