永嘉乱后，上党人南徙。晋朝宁康二年（公元374年）侨置上党县，属侨置上党郡。县治今芜湖市市区青弋江口鸡毛山高地。不久，上党县改属淮南郡。宋元嘉九年(432年)，撤销上党县，并入襄垣县。