他认为中国的教育“乃纯乎为纸面上之教育。
所学非所用，所用非所学”，改良之道“不独须从方法上研究，更须在思想上研究”。
他的结论是采取实用主义，发展职业教育。
黄炎培在《实施实业教学要览》中给职业教育下的定义是：“凡用教育方法，使人人获得生活的供给及乐趣，一面尽其对群众之义务，此教育名曰职业教育。”
1917年中华职业教育社成立后发表的《中华职业教育社宣言书》，标志着以黄炎培为代表的职业教育思潮的形成。
自此起，黄炎培的职业教育思想不断发展、成熟。
反映民族资本主义工商业发展和改革普通教育的需要，黄炎培早期职业教育思想更多以解决个人生计问题为重，认为职业教育的要旨有三：“为个人谋生之准备”，“为个人服务社会之准备”，“为世界、国家增进生产力之准备”。
20年代起，黄炎培把职业教育的目的概括为“使无业者有业，使有业者乐业”。
即既强调个人谋生，也重视服务社会；既强调职业技能训练，也重视职业道德教育；既强调一技之长，也重视全面发展。
更多地探讨了职业教育内部的规律问题。
20年代中后期，黄炎培总结近十年职业教育发展的经验，提出“大职业教育主义”的观念，认为“只从职业学校做工夫，不能发达职业教育；只从教育界做工夫，不能发达职业教育；只从农、工、商职业界做工夫，不能发达职业教育。”
即办职业教育必须联络和沟通所有教育界和职业界，参与全社会的活动和发展，更多地探寻了职业教育外部环境的适应问题。
至此，黄炎培的职业教育思想基本成熟。
进入30年代后，民族危机加甚，黄炎培积极投身于民族救亡事业，职业教育思潮逐渐消退，但其职业教育思想继续影响着此后年代中国的职业教育实践。