后趙

公元316年，西晉并州刺史劉琨在匈奴劉漢政權(quán)和羯族石勒夾攻中身亡，晉陽被石勒占領(lǐng)。公元319年11月，石勒自稱趙王，建都襄國(今河北邢臺(tái))，改并州為太原國，治地晉陽，下轄陽曲、榆次等13縣。后趙據(jù)晉陽共是42年。

前燕

公元358年，鮮卑族慕容氏所建前燕攻晉陽，后趙太原國守將張平棄城南逃平陽(今山西臨汾)。前燕在晉陽設(shè)置并州，下轄太原國、上黨郡、雁門郡等7個(gè)郡國。前燕據(jù)晉陽共12年。

前秦

公元370年，氏族符氏所建前秦譴大將楊安攻晉陽，后又調(diào)王猛自壺關(guān)引兵助戰(zhàn)，王猛在晉陽城外暗挖地道，讓虎牙將軍張蠔率領(lǐng)數(shù)百名壯士潛入晉陽城中，里應(yīng)外合俘虜前燕并州刺史東海王慕容莊。前秦皇帝符堅(jiān)將并州治所從蒲坂(今山西永濟(jì))徙遷晉陽城，轄地除前燕7郡國外，又添轄五原郡(今山西忻州)。前秦?fù)?jù)晉陽16年。

西燕

公元385年，符堅(jiān)被部屬羌族姚萇縊死，堅(jiān)子符丕于晉陽繼皇位，改元太安，繼續(xù)維持前秦帝系。次年，符丕從晉陽出兵準(zhǔn)備去平陽討伐叛臣姚萇，不料被另一支鮮卑族慕容永乘虛而入，占據(jù)了晉陽。慕容永于同年在長(zhǎng)子(今山西長(zhǎng)子)稱帝(史稱西燕)。西燕據(jù)晉陽8年。

后燕與北魏

公元394年，建都于中山(今河北定縣)的后燕國又攻占了晉陽，但僅僅時(shí)隔二年，晉陽就被北魏拓拔(王圭)奪走了。北魏逐漸統(tǒng)一中國北方，戰(zhàn)亂局面開始緩和，人民生活趨向安定。