起初，百鬼夜行是个口耳相传的传说，最初记载已不可考。只知大约是在平安时代（公元794-1192年），平安京（今京都）内不仅生活着人类，而且是个怨灵出没、鬼怪横行的世界。那些妖魔鬼怪不在深山老林中修炼，也不在地府冥界中幽居，竟是和人类生活在同一屋檐下，居住在同一城市中。
一旦黑暗来临，蛰伏于各个角落的鬼怪，就在京都的大道上成群结队的游行起来。它们毫不掩藏，恣意狂欢。这时候，如果哪个人无意中瞥到一眼，就会因受到诅咒无疾而终。所以当时外出夜游的人们，都小心翼翼地将一本《尊胜陀罗尼》缝入衣襟内，希望借助佛祖的保佑来驱邪避祸。
这兴风作乱的百鬼，原本只是传说中面目模糊的鬼怪。到了室町时代（1338年－1573年），一位幕府的御用画师土佐光信将这一切画了下来。他的《百鬼夜行绘卷》不仅是妖怪画的开山鼻祖，而且其中的鬼怪非常独特。如果仔细辨认，会发现这些正在游行的百鬼，竟是人们日常生活中常见的器物，比如木鱼、琵琶、瓷碗、茶锅、伞等等，纷纷长出耳眼口鼻，成为半器物半妖的妖怪。
明人《幽怪诗谈》一书中，出现了一个名唤金竟之的方镜妖怪，与其他器物妖怪一起，谈吐自若。而画中的镜妖则是一位美人，大概因为镜子是女子钟爱之物，所以妖怪变化也追随了主人的形象吧。
日本有这样的说法，一件物品被主人使用99次以上就会成精，一旦遭到损坏或者被丢弃，就会因心生怨念而变成付丧神，给人间带来危害。土佐光信的笔下，受到不公正待遇的器物妖怪集合在一起示威游行。
中国妖怪大量“出口”日本的时期，是在中国的唐朝，即日本的奈良和平安时代。当时大量遣唐使渡海而来，虚心学习中国文化。扶桑国也亦步亦趋的模仿起大唐的律例、政治制度、都城建设，甚至连妖魔鬼怪也开始“山寨”起中国来。中国的各路妖怪，便是随着《山海经》、《搜神记》、《淮南子》等经典之作东渡，逐渐深入日本民间的。可以说，中国对于日本妖怪文化的真正形成，起到了至关重要的作用。
虽然日本妖怪大多是中国出口，但百鬼夜行概念在网络上兴起是却是《阴阳师》火爆那几年。
其实，百鬼夜行在中国民间早也流传许久，传说，七月初一开始开放鬼门，在地狱修行的各路妖魔鬼怪可以回家探亲看望在世的亲人，在七月十五这天，鬼门关闭，各路在人间游荡的妖魔鬼怪必须在鬼门关闭之前回到地府，否则就会灰飞烟灭。