我国古代学校的起源，可以追溯到4000多年前，相传在虞舜时代，我国就已经出现了称之为“庠”的学校。高一级的叫“上庠”，近似国学的前身；低一级的叫“小庠”，近似乡学的前身。
公元前3000年左右，我国已有“图书文字”和“象形文字”了。于是也就有了专门传授和学习文字的机构“成均”。这也是学校的最初萌芽。
到夏朝时学校分成了四种，按其级别的高下分别称之为“学”、“东序”、“西序”和“校”。商朝取代夏以后，又将这四种学校的名称改为“学”、“右学”、“左学”和“序”。
西周时较高级的学校，分别称之为“辟雍”、“成钧”、“上庠”、“东序”、“瞽宗”。其中“辟雍”最尊。在诸侯各国则有称为“泮宫”的学校，较低一级的学校，有每25家设立的“家塾”，也有每500家设立的“序”。
到了汉代，最高一级的学校称为“太学”，太学以下的学校有“东学”、“南学”、“西学”、“北学”等。魏晋南北朝时“太学”又称为“国子学”；北齐时则将其称为“国子寺”。至隋代，隋炀帝又将“国子寺”改名为“国子监”。此后，“国子监”之称一直沿用到明、清两代，但后来被称为“国子监”的已非以前性质的学校，而是一种实施教育管理的部门，至于各类学校则分别称之为“书院”、“书堂”、“私塾”等等。
至于“学”和“校”两字的合用，最早见于《诗经》，比较严格意义上的见于汉朝。《汉书•董仲舒传》上有“抑黜百家，立学校之官”。《汉书•循吏•文翁传》说：“至武帝时，乃令天下郡国，皆立学校官。”班固《东都赋》中也有“是以四海之内，学校如林”之语，可见汉代学校已经盛况空前了。
学校的定义历史来源：
自夏商，便有了“庠、序”（就是学校）。孟子曰：“庠者养也，校者教也，序者射也。“作为一个特殊的社会组织，学校一出现，便以培养社会所需要的人为己任，从而出现为培养人才所采取的因材施教等教育之法，历史赋予学校较高的地位。二千多年齐国的稷下学宫引发了百家争鸣、孔子在大成殿的甬道开设杏坛以六艺而教众贤、宋朝的六大书院所承担着选俊功能。
19世纪末20世纪初，辛亥革命元老何子渊、丘逢甲等先贤成功创办新式学校，黄宗羲提出“公其非是于学校”，他认为学校不仅具有培养人才改进社会风俗的职能，而且还应该议论国家政事之能。“人民教育家”陶行知生活教育论在南京晓庄学校之实践时，还提出“要把学校的一切伸张到大自然去”……直至如今现代化的学校，培养人这一性质也没有变化，因为这才是学校应有之义；只不过对于“培养人才”之内涵是更为丰富、更顺应人之个性发展国家需要及社会进步，也使学校更显生命与活力。
由此可见，学校这一组织之特殊，承载了太多的历史使命，自古至今，教书育人成了这一组织所特有的使命，多少千古伟人；便是从学校走向更广阔的历史空间，于是便有了“滚滚长江东逝水，浪花淘尽英雄……”
最初的教育活动与人类的生产，社会生活融为一体，人们主要是通过言传身教，传授知识，技能。随着生产力水平的提高，物质财富逐渐增加，有些人就可以从体力劳动中脱离出来，专门从事脑力活动；同时语言文字也在丰富和发展。这样，独立的教育机构—学校便逐渐孕育产生了，学校的出现标志着人类教育活动进入一个自觉的历史时期。
据考证，原始社会后期，就有了专门对青少年进行教育的特殊场所，这就是学校的萌芽。青少年在这里接受一些训练，学习自理，参加社会劳动，如建筑房屋、耕种、收获，照看牲畜等；学习唱歌.跳舞、游戏，学习礼仪和行为规则。
学校的发展：
在殷商时代，人们上学的地方叫“庠”。到了周代，就叫做序。所以到了后来，故人依旧以庠序作为学校的代称。
国学：先秦时代的学校分为两类，一个是国学，另一个是乡学。国学是天子或者诸侯设立，包括太学和小学。太学和小学都传授六艺，但是各有侧重，太学以礼乐为主，小学以书数为主。
乡学：乡学是地方设立的，比如州郡县设立。是与国学相对的一个机构。
稷下学宫：这里讲一个比较有名的学术机构。就是战国时期齐宣王设立的稷下学宫。也就是我们所说的百家争鸣的发源地。设于临淄稷下。是当时法家、儒家、墨家、道家、阴阳家、农家等各派的汇集之地。兴学论战，评论时政，教徒授业。形成了中国历史上思想文化的首次大碰撞。
太学：封建时代的教育机构与最高学府，魏晋至明清时代或设立太学，或设立国子监，名称不一，制度有变，教授王公贵族子弟的学府，生员被称为“太学生”或者“国子生”。
国子监：汉魏时代设立的太学，西晋改为“国子学”，隋朝的时候改为“国子监”，从此，国子监就与太学互称，都是最高的学府，兼最高教育行政机构。
书院：唐宋至明清时代出现的一种独立的教育机构。一般都是私人建立，聚徒讲学，研究学问的场所。宋代有四大书院。明代的时候，我们所熟知的有东林书院，培养了杨涟、左光斗等一批东林党人士。
夏商，称“庠、序”。西周称学校为“辟雍”，是少数奴隶主贵族读书的场所。也有称学、校、塾的。在开始产生时并不都是专门的教育机构，而兼为习射、养老的场所。西汉时学校分中央和地方两种，中央设太学，是国家最高学府，相当于今天的大学。地方上置学宫。唐时代办学达到古代极盛时期，学校分类更细，明清时的学校基本是承袭隋唐的，但由于科举制发展，使学校成为科举制的附庸和装饰品。清末，开始兴办近代教育，光绪二十八年（1902年）的《钦定学堂章程》中称学校为学堂。到1907年，新式学堂遍设各地。
辛亥革命后，教育部公布新学制，“学堂”一律改称“学校”，并一直沿用至今。