Mask-蒙版，Matte-遮罩。以上刚好说反了。蒙版和遮罩在数字设计领域都有矢量和像素。
Mask-蒙版，从矢量路径上理解，即指原始绘制的路径，包括路径闭合状态和未闭合状态, 蒙版强调的是路径。在PS中绘制矢量路径时无论路径是否闭合都可形成区域并显示（至少3个点才形成一个面，也就是区域）。After Effects中对蒙版的定义是：After Effects 中的蒙版是一个用作参数来修改图层属性、效果和属性的路径。但在Photoshop中通常不单说“蒙版”，而说“图层蒙版”-Layer Mask，和矢量蒙版-vector mask。PS中对图层蒙版的定义是：依赖分辨率（也就是像素），用选区工具或画笔工具编辑的位图 (当然也可用油漆桶工具和渐变工具编辑，作用和画笔工具一样)。PS中对矢量蒙版的定义是：矢量蒙版是与分辨率无关的、从图层内容中剪下来的路径。（不知为何Adobe官网在给香港和台湾地区的中文翻译中将Mask翻译为：遮色片）
Matte-遮罩，在数字设计领域，在路径上来说，指绘制的闭合路径与图层抠像出来的综合形状。不考虑路径，指用来遮挡其他图层的任意形状的图层。遮罩一词源于电影制作，通常不是指平面设计，而是视频后期，所以在Photoshop中没有遮罩的概念。After Effects中对遮罩的定义是：遮罩是一个图层（或图层的任何通道），用于定义该图层或其他图层的透明区域。白色定义不透明区域，黑色定义透明区域。Alpha 通道通常用作遮罩，但是，如果您的通道或图层定义的所需透明区域比 Alpha 通道所定义的更好，或者如果源图像不包含 Alpha 通道，您可以使用遮罩，而不是 Alpha 通道。
区别：mask强调路径，matte指一种遮挡关系的效果，如你画了一个圆形闭合路径，那么遮罩就是这个圆形。mask路径可以闭合或不闭合，但matte路径必须闭合才能形成形状。matte不仅指路径画出来的形状，也可以是透明图像的形状，如圆形的PNG图，也可用作遮罩。这样举例容易理解，但是遮罩也可以是没有透明区域的其他格式图像，甚至是动态视频。遮罩是由它的遮挡作用来定义和区分的，一般是视频后期领域。其他：虽然RGB图像通常在PS等软件中，通道里不显示Alpha通道，但是Alpha通道是存在的，只是隐藏状态，准确来说RGB图像叫RGBA图像。
共同作用：在数字设计领域都是让图像一部分透明，一部分不透明，让图像一部分显示，让图像透明部分显示其他图层，如果考虑图层混合模式，那么效果就更复杂了。
概念误用：人们常将蒙版遮罩一起使用，或混用。在平面设计领域，很多设计师也引入了遮罩的概念。但在视频后期领域，蒙版和遮罩两个概念都存在。由于设计后期行业引用概念的混乱才会导致楼主的迷惑，才会来提问。