相传，兴国山歌“唐时起，宋时兴，世代流传至今。”在兴国县志中，就有唐朝“太上隐者”唱山歌的记载，宋朝大文人苏东坡也留下了“山中木客解吟诗”的诗句。民间传说，兴国山歌为唐末落第秀才罗隐所创。民间至今还有一首流传久远的山歌：会唱山歌歌驳歌，会织绫罗梭对梭；罗隐秀才造歌本，一句妹来一句哥。由此推测，兴国山歌约有千年的历史。

兴国山歌本来是山民们在田野山林相互唱和的歌。然而，宋朝中叶“跳觋”活动从闽西客家人中流传到兴国。跳觋，本意是祈吉攘凶、保佑平安吉庆。它有一整套独特的画符作法的程式。觋师为了吸引更多的观众，把群众喜闻乐见的兴国山歌引入跳觋之中，使之成为两部分：一部分为法事活动；一部分为娱乐，也就是唱山歌。于是，兴国山歌就进入了室内演唱。山歌也就随之出现了人物、情节、故事、表演，出现了有男有女的觋公、觋婆（男扮女装）。而后，又逐渐运用到庙会、婚嫁、建房、祝寿等民俗活动中。至此，兴国山歌出现了两条平行发展的道路：一是山野田间的即兴唱和，另一种是职业歌师的室内娱乐山歌。