1960年代初，由于中国国产第一代干线电力机车——6Y1型质量不过关，未能批量生产，为了应付电力机车短缺的情况，中华人民共和国铁道部决定从法国进口一批由阿尔斯通公司生产的6Y2型电力机车作为过渡。6Y2型机车采用引燃管整流、高压侧调压且带有再生制动 ，于1961年8月15日正式投入宝成铁路运行。
随着6Y2型机车的引进，田心机车车辆工厂、株洲电力机车研究所一方面借鉴其先进技术对6Y1型机车开始持续改进，同时也开始尝试仿照6Y2型机车，研制新型电力机车。田心机厂于1966年由开始设计工作，1969年试制出一台机车，定型为韶山2型。机车出厂后，于1969年10月至1970年1月在宝成铁路宝鸡至凤州、广元至马角坝的电气化区段试验运行。试验结果表明，机车牵引和电阻制动功率均可充分发挥，运行性能达到了设计要求。 随着中国半导体工业的发展，株洲电力机车研究所于1970年成功试制200安/800伏的可控硅元件（晶闸管），1971年田心机厂应用这种新元件对韶山2型机车进行技术改造，将原牵引电路中的桥式硅整流机组改装成为采用可控硅的半控桥式整流机组，从而取消了原来的有级调压的高压调压开关系统，成为中国第一台实现相控无级调压、无级调速的电力机车 。机车完成改造后，于1972年初在田心机厂厂线、北京环形铁道试验基地试验成功，同年5月赴宝成铁路试验，7月正式配属西安铁路局宝鸡电力机务段投入运营。
1973年9月，韶山2型机车回厂进行第二次技术改造，在原有的一段半控桥可控硅无级调速的基础上，改为两段半控桥可控硅无级调速，并改用他励牵引电动机和电子控制等新技术，从而提高机车粘着利用，更充分地发挥机车的功率 。改造工作于1974年底完成，1975年7月于北京环形铁道进行试验，随后于宝成铁路投入运行。 韶山2型机车于1982年停用并封存于宝鸡电力机务段凤州折返段，1994年报废拆解。 位于北京市延庆县八达岭镇的詹天佑纪念馆目前仍然保存了一台韶山2型机车的比例模型。
