1954年，林州市第二中学在林州市合涧镇创建，在艰苦的条件下，学校实现了跨越式的发展，与林州市第一中学二足鼎立。
2003年，林州二中成为安阳市示范性高中。
2007年4月至2008年11月，林州二中在原来的基础上，投资对实验仪器、图书、体育器材等进行补充，使教学条件得到了明显改善。在教学上引进先进的教育理念和学校管理模式，林州二中实现了全面的提升。
2008年整体迁入市区，并顺利通过省级示范性高中验收，成为林州市的第二所河南省级示范性高中，以崭新的精神面貌站在了新的起点上。
2008至2011年，林州二中硬件升级，建成花园式校园，教学水平和教学质量全面提升！
2011年高考，新的林州二中第一届毕业生创造了当地教育发展新的历史，高考本科上线共计545人，本科上线率突破50%，比2010年增加了98%；体育生和艺术生本科上线达到151人，增幅达到120%。
林州二中的发展历程，对于河南省数量众多的农村和县市的中学来说，具有标志性的借鉴和学习意义。
在河南省一提起林州市，很多人都会想到红旗渠，想到林州人民艰苦朴素的红旗渠精神。这个人口将近100万的县级市，除了旅游业和工业长足发展，这里的教育事业也特别引起媒体关注。
林州市连续12年，高考主要指标位居安阳市各县区之首，林州一中作为一所老牌的豫北名校多年来引领了安阳地区教育的发展，而新锐的林州二中自2008年升级成为省级示范性高中之后，大力推进教育改革和创新，硬件和软件全面升级，探索出了一条独具特色的发展道路。多家媒体多次深入林州二中进行采访报道，解读他们在教学改革和学校管理方面的经验。
2010年，林州二中在课堂教学上创造性地实施了“大单元教学模式”。所谓“大单元教学”就是按照教材上特定的教学时段（不定的几个课时）为一个教学单元（如高三的一个专题），对教学内容进行整体安排，重新整合。然后把整个教学单元划分为预习、展示、巩固检测三个内在统一的学习阶段。经过三个阶段不断动态完善导学案，不断优化三个环节的结构，达到以学定教、学有所获，课堂生成丰富的教学目标，从而真正实现高效课堂。
同时，实施“课堂四清”行动。所谓“课堂四清”是指学习任务要堂堂清、门门清、日日清、月月清，使每个学生都能锁定学习目标，不留学习尾巴，对大单元教学模式的发挥画上圆满的句号。
林州二中青年骨干教师元涛和王庆峰课堂教学改革体会特别深，他们多次到其他名校听课和学习，探索引进高效阅读方法，在短时间内迅速提高了学生的阅读速度、阅读效率，激发了学生课内外读书的兴趣和积极性，这也完全符合新课标的要求。在2011年高考中，他们的学生语文普遍取得了好成绩。
三年时间，林州二中狠抓学校管理、班级管理和课堂教学，管理制度化规范化，全面推进教学改革，把课堂教学改革作为学校发展第一生产力；教学水平和教学质量全面提升，校园文化建设蓬勃发展。
三年时间，林州二中硬件大升级，建成了花园式校园，一所昔日的农村中学浴火重生，成为豫北一所响当当的河南省级示范性普通高中。
2013年，学校整体搬入位于王相路的新校区，迎来了林州市第二中学历史上新的发展时期！
