1866年（清、同治五年）12月，学校前身“文先书院”（只收男生）、“会英书院”（只收女生），开设课程有：数学、格致、史地、化学、英语等学科，并辅之以“四书”，因系教会创办，开设“圣经”课。学校创办人为美国牧师，郭显德（HunteyCoybett）博士。
1886年间，郭显德向美坎萨斯州的维齐他市长老会募款2500美元，扩建校舍，增设中学班。
1896年，“文先”、“会英”两校合并，各取一字，取新校名为“会文书院”。 1897年（清，光绪二十三年），美国人韦丰年先生（George Cornwell）创办“毓璜顶英文学馆”。
1911年，英文学馆增筑校舍，定名为“思韦堂”（ 现烟台警备区军人礼堂处）。 1920年，郭显德博士逝世，会文书院和实益学馆合并，取“实益”的“益”字、“会文”的“文”字，定名为：“私立烟台益文商业学校”。校址选择在毓璜顶南坡。
1926－－1930年间，有教职员30－－40人，其中外籍有12人。学生以本省最多，次之为东北三省，再次为江、浙、闽、奥各省，还有少数俄、美、英、德、日、朝鲜等外国学生。在校生，每年在350－－500人左右，最高达600人。
1929年，学校正式更名为“烟台私立益文商业专科学校”，
1936年，更名为“烟台私立益文高级商业专科学校”。
1945年8月，烟台解放，人民政府接管了市立二中并与市立女二中合并，成立毓璜顶中学。
1947年，国民党向胶东解放区发动重点进攻，9月国民党军占我烟台，根据市委决定学校撤到乳山县上、下草坡村成立烟台联合中学，又有一批学生参加了解放军七纵队。
1948年9月，改名为“烟台市立第一中学” 1950年9月，改名为“山东省烟台第二中学”，确定为省属学校。
1952年秋，开始招收高中学生，高、初中在校生达到了1031人。
1958年，建立起校办工厂“山东省烟台第二中学机械厂”。1958年秋，高中达到16个教学班，全校36个班，高、初中在校生达1741人。
1959年，被山东省政府确立为省级重点中学。
1980年，被确定为“山东省首批办好的18所重点中学”之一。
1993年，被山东省教委评为首批规范化学校。
1996年，李岚清副总理视察了山东省烟台第二中学。
2007年，入选“中国百年名校”。
