研究生院主要是指在承担研究生培养任务的高等学校中组织实施研究生教育工作的管理机构。一般来说，只有研究生招生规模比较大的学校才有必要专门设置研究生院，所以一般来说只有层次比较高的重点大学才会有研究生院。
有研究生院的学校一般设有研究生院，没有的一般设有研究生部。
不过前段时间教育部宣布取消研究生院设置行政审批，由高校自主设立研究生院。
即今后学校可以根据自己的办学需要自主决定是否设置研究生院。
不管设不设置研究生院，只要学校有研究生招生资格，
学校行政管理机构中都会有专门负责研究生招生培养的部门，
研究生的具体培养还是由专业所在的学院负责的，
各个学院也会有研究生科等之类负责研究生的部门，
有无研究生院对于研究生没有实质性的影响的。