公元280年，西晋太康元年，晋武帝司马炎灭掉吴国，完成统一大业，改新都郡为新安郡，徽州地域进入新安时代。这就是徽州古称新安的来源。改郡名为新安，一说因为当时的黝县境内有新安山（在今祁门县），一说取其安定之意。

公元316年，西晋灭亡。第二年，司马睿在建康（今南京）称帝，为晋元帝。因为偏安于江南，所以被称为东晋。东晋时期，史书上与新安有关的一则记载引起了史学家的注意。

《晋书》和《世说新语》等书记载，晋元帝的第四个儿子司马晞，开始被封为武陵王，后来官至太宰（相当于宰相），据说他无学术但有武干，被一直想篡夺皇位的权臣桓（huán）温所忌惮。于是在太元六年(公元381年)，桓温诬陷司马晞要谋反而将他贬为庶人（平民）。桓温本来是要皇帝杀掉司马晞的，但继位不久的简文帝是司马晞的弟弟，没有同意，而是把他一家人贬到了新安郡。书上说，这个司马晞在还没被废黜前的四、五年里，有个怪癖：“喜为挽歌”——喜欢听凄凄惨惨的送葬的歌，还自己摇着大铃唱，让左右的人齐声和。又在宴会上叫歌妓们“作新安人歌舞离别之辞，其声甚悲”。几年后他果然被流放到了新安，并最终死在了新安。

书上说司马晞不学无术，但显然他并不缺乏政治头脑。虽贵为武陵王、官居“太宰”，是辅佐皇帝的重臣，但他却很清楚自己的处境，实权掌握在桓温手中，自己的生死荣辱也都在桓温的手里。他对自己的命运应该早有预感，所以才那么悲伤，自己先唱起了“挽歌”，听起了“新安人歌舞离别之辞”。

很显然，司马晞的悲并非出于儿女情长，而是家国离恨的悲。

那么，这里的“新安人歌舞离别之辞”又带给了我们什么信息呢？我想，至少有两点：其一，说明当时的新安人能歌善舞已经名声在外；第二，当时新安人的歌舞多以“离别”为题材，充满着悲愁。

有不少学者据此认为，在东晋时期，新安一带的经商活动已经兴起，“新安人歌舞离别之辞”，演绎的正是因离乡背井外出经商而带来的“重利轻别离”的悲伤和愁怨。

回顾徽州人口迁徙的历史，中原士族向徽州地域的人口迁徙有三次高潮，其中两晋即为第一次高潮（另两次为唐末到宋代）。移居这里的人多因逃避战乱而来。而这里的山区人多地少，光靠农业生产无法维持生存，这就催生了被后世称作“新安商人”或“徽州商人”的商业活动。因此，一些徽学研究者把徽商的兴起定为晋代。

东晋以后，为南北朝对峙时代。新安郡归属于南朝，经历了宋、齐、梁、陈四个朝代。