志怪小说的成型以两汉时期的神仙小说为先导。汉代，中国本土宗教道教的广为流传，使得帝王开始笃信黄老之术，于是神仙方术始大兴于世。在这样的社会氛围下，诞生了第一部神仙家小说刘向的《列仙传》。《列仙传》共写了七十多位神仙，他们都有奇特的生活方式和法术功能。之后又产生了另外一部小说《列异传》。《列异传》的作者历来颇有争议，它的核心内容和精华所在，是使一批鬼的形象第一次在小说史上出现。

东汉和曹魏时期，比较集中地产生了一批神怪史话小说，也即《汉武故事》《汉武内传》《十洲记》《洞冥记》。它们的共同特点是借汉武帝和东方朔为由头，演绎神怪故事。这批作品的作者署名东方朔、班固、郭氏，实际上均为托名。真实作者究竟是何人，历来争论不休。这批汉魏托名小说对中国小说所做出的贡献就是，志怪小说的雏形已经生成。

东晋时，小说家干宝在汉魏神仙鬼怪小说的基础上，“考先志于典籍，搜遗逸于当时”，写成了小说集《搜神记》。据《搜神记进表》，干宝说他写此书的目的是为了“发明神道之不诬也”。《搜神记》所采辑的许多神话故事和民间传说，虽然袭用了神鬼的题材，染上了怪异的色彩，但却有不少篇章反映了普通人的愿望，其中还有一些赞美底层人善良、勤劳、聪明、勇敢的篇章，为后世代代相传。除《搜神记》外，两晋南北朝时还有《幽明录》《续齐谐记》。

魏晋南北朝时期的志怪小说是古代小说发展初期的产物，大多数作品属于记录怪异传闻，并非有意为小说。所以，“它一般只要求简约而不重辞采，大多数故事只可说粗陈梗概，略具规模，谈不上更多的写作技巧。但其中也有一些优秀篇章，短小精粹，形象生动，开唐传奇和宋元明清文言小说之先河”。^[6]它们的表现方法，如情节结构完整，富于戏剧性，通过细节描写表现人物性格，以诗作为人物抒情语言等，往往为后世小说家所借鉴。