起源于古代希腊·柏拉图和他的学生亚里斯多德被认为是西方百科全书的始祖，他们通过讲学记述当时已有的全面知识。古罗马的瓦罗（Marcus Terentius Varro）编写的《学科要义九书》（Disciplinarum libri IX）和《圣俗事物古迹》（Rerum divinarum et humanarum antiquitates）等著作均属百科全书性质.罗马时期最重要的百科全书是老普林尼（Pliny the Elder）的《博物志》（Historia naturalis）。此书为分类的知识选集，对后世百科全书编撰的影响达1,500年之久。
中世纪前期较为著名的百科全书--英克拉斯（Honorius Inclusus）编著的《世界宝鉴》（Imago mundi），广徵博引，编排完善，为前人所不及。中世纪最重要的百科著作是博韦的樊尚（Vincent of Beauvais）编的《大镜》（Speculum majus）。全书近10,000章，共80卷，是18世纪前期篇幅最大的一部百科全书。1559年，德国编纂家斯克利赫（Paul Scalich）在巴塞尔（Basel）出版一部《百科全书》，首次用此词作为书名。
17世纪、18世纪培根（Francis Bacon）的《伟大的复兴》（Instauratio magna，未完成）对百科全书的编纂影响极大，其贡献是为百科全书提供了一种新的，合理的知识分类体系。英国哈利斯（John Harris）编的《技术词典》（Lexicon Technicum,1704）已具有现代百科全书的因素。钱伯斯（Ephraim Chambers）创立的参见系统被认为是采取现代百科全书编辑技巧的先驱。狄德罗（Denis Diderot）和达朗伯（d'Alembert）主编的《百科全书》（Encyclopedie;1751-1765）规模宏伟，具有历史意义，比同时期的其他工具书更具影响力。该书第一卷出版后曾受教会指责与官方非难，但却得到民间支持.狄德罗的贡献在於适应法国日益高涨的革命精神，点燃人们的思想火花。《大英百科全书》于1768年、1771年在苏格兰的爱丁堡初版，以后各版逐渐完善，已出至第15版。布罗克豪斯（Arnold Brockhaus）适应德国人需要，所编出的第一部《社交词典》（Konversations-Lexikon,1796～1811），成为西方世界后来出版的至少半数百科全书之典范。其特点是选收范围广泛，条目简短，事实充分，并以材料精新见称。
法国人拉鲁斯（Pierre Larousse）在百科全书编纂方面颇有创新精神。《拉鲁斯百科全书》声誉很高，特点是文字通顺流畅。韦伯斯特（Noah Webster）著的《美国英文词典》（American Dictionary of the English Language）实质上是一部百科全书，与《布罗克豪斯百科全书》和《拉鲁斯百科全书》一样，是画时代著作。《苏联大百科全书》（Bolshaya sovetskaya entsiklopedya）於1926～1947年初版，共65卷；第2版51卷，现已出第3版，30卷。《大美百科全书》在《布罗克豪斯百科全书》第7版基础上编成，采取连续修订体制，获得很大成功。西班牙《插图欧美大百科全书》（Espasa,1905 ～1970）是目前世界上最大的百科全书，主体部分80卷。《意大利百科全书》（Enciclopedia italiana,1929-1936）素以插图精美和学术性著称。20世纪以来，出版了百科全书的国家还有：保加利亚，捷克斯洛伐克，丹麦，爱沙尼亚，芬兰，希腊，匈牙利，荷兰，挪威，波兰，罗马尼亚，瑞典，土耳其和南斯拉夫，立陶宛等。 中国编撰百科全书性质的类书有近2,000年的历史，不同於现代西方的百科全书，类书基本上是重要文献的选辑，分类编排，主要是供仕途举子采缀参考而编，有的还带有某些辞书成分。中国第一部著名的类书是西元220年由魏文帝主持编撰的《皇览》，现已散失，后来编撰的著名类书还有杜公瞻编的《编珠》，欧阳询编撰的《艺文类聚》100卷，虞世南所编《北堂书钞》，徐坚等人编的《初学记》。宋朝李昉奉宋太宗命组织编修《太平御览》，后来经重修曾改用活字版印刷。《册府元龟》（1013）著重历史和传记内容，篇幅之大几与《太平御览》相当。
南宋学者王应麟(1223~1292）於1267年编撰的《玉海》，是一部重要的百科著作，1738年曾重印，共240卷。明初编成的《永乐大典》，可能是有史以来世界上最大的百科全书，全书22,937卷，可惜大部分都已散失，1963年影印出版了残存的730卷。明代王圻父子所辑《三才图会》106卷，插图丰富。清康熙年间奉敕修撰的《佩文韵府》及其补篇《韵府拾遗》，是中国文学百科全书。其他敕撰的类书还有《骈字类编》和《子史精华》。1726年陈梦雷等编的洋洋巨篇《古今图书集成》10,000卷，包罗了中国的全部文化遗产。清代的其他类书还有：汪汲的《事物原会》（1796），陆凤藻的《小知录》（1804），陈炜的《经传绎义》（1804），王承烈的《齐名记数》（1806），戴兆春的《四书五经类典集成》（1887），魏菘的《壹事记始》（1888），刘可毅的《九通通》（1902）。中国第一部现代百科词典是民国初年陆尔奎主编的《辞源》（1915）。
日本自德川时代已出现受到中国影响的类书。现代类型的百科全书出现於1926年以后，主要的有：《大百科事典》（28卷，1931~1935），《国民百科大辞典》（15卷，1934~1937）和《世界大百科事典》（24卷，1955~1968）。1972年开始出版《大英国际大百科事典》（28卷）。
阿拉伯世界的第一部百科全书是伊本古泰拜（Ibn Qutaybah,828 889）编撰的《传统菁华》（Kitab Uyun al-Akhbar）。他引用传统的格言，史实和古诗歌来解释所述的事物。伊本阿卜德（Ibn Abd Rabbih of Cordoba）改进伊本 古泰拜的著作，编成《珠鍊》（Iqd）。波斯学者夸里兹米（al-Khwarizmi）于975~997年编的《科学之钥》（Mafatih al-Ulum），分为该国知识和外国知识两部分。埃及历史学家安努韦利（an-Nuwairi）编出马木路克时代最著名的百科全书《文艺知慧之的》（Nihayat al-arab fi funun al-adab），全书近9,000页，1923年出合卷本。于1876~1900年间黎巴嫩的布斯塔尼（Butrus al-Bustani）及其子编著《百科全书》（Dairat al-maarif），1923~1925年出第2版，1956年出第3版。1955年阿伯特·里哈尼（Albert Rihani）出版单卷本《阿拉伯百科全书》。 现又指比较全面系统地介绍文化科学知识的大型工具书，收录各种专门名词和术语，按词典刑事分条编排，解说详细。
“百科全书”通常是指一大套书。这个词在西方最早出自希腊语（εγκ?κλιο?）（拉丁字母：enkyklios）和παιδε?α（paideia）。“enkyklios”意为“循环的，周期性，平常的”，而“paideia”则指“教育”。含义是“普通教育，从字面上说就是一个想接受通才教育的人所应该学习的艺术和科学知识”。在抄录过程中谬传为新拉丁语词 “encyclopaedia”，随后又进入英语，最先记载于1531年。在新拉丁语中该词被选中作为一本覆盖各科知识的参考著作的书名。在英国最早见于1644年。
据《大不列颠百科全书》介绍，世界上最大的百科全书是《永乐大典》。全书目录60卷，正文22877卷，装成11095册，约3.7亿字，这一古代文化宝库汇集了古今图书七八千种，是中国的百科全书式的文献集。
《中国大百科全书·新闻出版》卷定义为：“概要介绍人类一切门类知识或某一门类知识的工具书。供查检所需知识和事实资料之用。但也具有扩大读者知识视野、帮助系统求知的作用。它是一个国家和一个时代科学文化发展的标志。”
《简明社会科学辞典》定义为“按辞典形式编排，系统概述人类各个方面或某一方面知识的大型工具书。分综合性与专业性两类。综合性百科全书收集各知识领域的名词、熟语、地名、事件、人物、著作等等，无所不包，是知识的宝库。但不收录词语，故不同于语文辞典。”
百科全书可以是综合性的，包含所有领域的相关内容（例如，《大不列颠百科全书》就是一部著名的综合性百科全书）。也可以是专科的百科全书（例如医学或哲学百科全书）。也有一些从某种特定文化或国家观点来讨论广泛议题的百科全书，例如苏联大百科全书。
