山西民居中，穴居文化在黄河流域广泛流传，河南、陕西、甘肃等地也有发现。龙庆忠先生在《穴居杂考》中对此有详尽阐述。在山西，穴窑冬暖夏凉，但空气流通不佳，是个需要改进的地方。穴窑形状多为抛物线，内部装饰精美，窑壁抹灰或用油漆保护。窑内设施齐全，有火炕、家具等，且常常位于峭壁旁，构成壮观的风景。部分穴窑门设计精美，可视为建筑艺术中的佳品。
山西的砖窑并非用于烧砖，而是指砖券结构的房子，可能是模仿土窑以克服其潮湿和土陷问题，保持隔热优势。砖窑结构通常由三眼或五眼组成，墙壁厚实，既能隔热又能稳固券顶。窑顶平整，可作晒粮平台或临时防御工事，且窑间相连便于登顶。山西民居，无论贫富，大多有砖窑或土窑，寺庙建筑也常采用此类结构。如在赵城至霍山途中，可见一座砖窑建筑，别具特色。
特别值得一提的是霍山民居门上的木版印门神，其笔法简洁刚劲，是匠画中罕见的艺术表现。磨坊虽然非普通民居，却有独特的居住体验。利用溪流驱动磨坊，房屋结构需适应震动，梁架粗大且地面光滑，形成凉爽且有雅致的环境。特别是在深山溪谷的峪道河，磨坊被视作避暑的理想之地。
总的来说，山西的乡村民居巧妙地顺应地形，依山势而建，层次分明，如同自然生长，展现出建筑与环境和谐共融的卓越技艺。
在中国民居中，山西民居和皖南民居齐名，一向有“北山西，南皖南”的说法。山西民居中，最富庶、最华丽的民居要数汾河一带的民居了，而汾河流域的民居，最具代表性的又数祁县和平遥。