内容审核(Content Moderation)，是基于图像、文本、视频的检测技术，可自动检测涉黄、广告、涉政涉暴、涉政敏感人物等内容，对用户上传的图片、文字、视频进行内容审核，帮助客户降低业务违规风险。它的基本流程和方式是怎样的呢?下面小编给大家具体介绍一下。
一、审核方式
不管是什么内容的审核，都应该包含以下四个基础模块：机器审核、人工审核、用户投诉审核、结果复审。
1.机器审核
是按照制定好的规则或机器学习算法对内容进行审核.
通常，成熟的审核系统能将95%甚至99%以上的内容都自动审核并做出处理。确定有问题的会被自动删除，难以判断是否有问题的会被标注，进入人工审核程序。
2. 人工审核
虽然用户投诉审核和结果复审大多时候也是人工审核，但这里所说的人工审核，特指审核机器无法判别的内容，通常占平台内容数量的比例不超过5%.
但对于一些大型的内容平台，绝对数量已经很多了。在内容爆炸的时代，我们看到许多平台在全国都有多个审核中心，每个审核中心的员工数量都成千甚至上万。
3. 用户投诉审核
是前两者的弥补，有很多违规内容以前没有出现过;所以不在规则可以过滤的范围内，或者非常隐蔽，规则难以严格过滤。
用户的投诉是发现新问题的重要渠道。通过知乎的危机事件，我们更应该重视对投诉的审核，并及时据此对机器审核做出补充。
4. 结果复审
通常采取抽查方式，比如通过复审机器删除的内容，看规则或算法是否过于严格;比如通过查看人工删除和通过的内容，看员工的工作是否按要求执行;比如通过内容的整体巡查，看是否存在新的问题未被注意到。
二、审核流程
先过机器审核，机器审核 通过 或 不通过;
对机器审核不通过的，再进行人工复审;
对机器审核通过的，再进行人工抽样审核。
综上所述，大家是不是对内容审核的基本方式和流程有了一定的了解呢，希望小编的文章对大家有所帮助，想了解更多关于内容审核的内容请关注小编。
【萌萌客:www.mmker.cn】提供专业的电商在线客服外包服务、电话客服及内容审核等服务，帮您简单客服难题。
