小说的产生，可以溯源很早。大约产生于秦汉以前的《山海经》和《穆天子传》，保存了许多神话传说；在一些子书里，夹杂着不少寓言故事，它们是小说的萌芽。在汉人的著作中，被称为杂史的《吴越春秋》和《越绝书》等，已富有小说的意味。始见于《隋书·经籍志》的《燕丹子》，近似于小说，而著作者和产生的年代都难于考定。
魏晋南北朝是我国古代小说形成并逐渐繁荣的时期。这个时期的小说作品数量较多，内容丰富，出现了前所未有的盛况。从内容看，大略可分为两大类：一类是谈鬼神怪异的“志怪小说”，一类是汜录人物轶闻琐事的“轶事小说”，或称“志人小说”。魏晋南北朝时期志怪小说的大量产生，有其深刻的社会根源，主要是与当时的封建迷信思想盛行关系密切。魏晋南北朝时期，社会动荡不安，战争频仍，故宗教迷信思想极易传播。腐朽的士族阶级不敢正视现实，他们或佞佛，以求精神麻醉，或信道，妄想羽化登仙；而面对人生种种磨难的劳动人民，一方面把摆脱饥饿、贫困和死亡、寻求安定、幸福生活的希望寄托在虚无飘缈的鬼神身上，另一方面，也常将自己的反抗情绪和对理想的追求，通过大胆的幻想，曲折地表达出来。正因如此，所以魏晋南北朝的志怪小说层出不穷，保存至今的有三十余种，而以干宝的《搜神记》成就最高。