国内主流短视频平台的审核机制与智能审核应用
国内主流短视频平台的审核机制与智能审核应用
随着移动短视频平台的普及，内容审核已成为确保平台健康发展的关键环节。本文将为您详细介绍国内主流短视频平台的审核机制与智能审核应用，包括内容安全审核、质量审核、初审和复审机制，以及人工智能在图片和文字审核中的具体应用。
近年来，随着我国移动短视频在各大平台的上线，相关管理部门对短视频市场的监管力度逐渐加大，陆续出台了关于移动短视频平台的内容管控规范细则。这些细则要求所有移动短视频平台的生产内容需经过内容审核合格后播出，涵盖了标题、简介、弹幕和评论等范围。
移动短视频审核分类
- 内容安全：通过审核发现移动短视频中不合法的、不健康的内容。
- 质量审核：控制移动短视频内容的质量，有控制各类内容推送力度。
考虑到移动端视频的海量数据，内容审核通常使用人工智能进行效率提升，一般情况下的视频审核会在几分钟内结束。
移动短视频审核机制
移动短视频平台采用视频内容初审、产品及流量推荐复审等视频审核机制，由智能算法内容审核、人工审核两个部分协同进行。
初审判别内容中是否有违反国家法律的风险，人工智能技术淘汰有明显违规信息的内容，再将审核出的疑似违规内容进行分级，转送人工审核；若视频内容初审合格，则进入内容分发。
但是智能内容审核系统在平台正常推荐过程中仍旧发挥监测作用，若基于用户的各种观看行为出现的数据异常，比如某内容有很高的点击率且负面评论、举报过多，则该内容产品将进入复审。
若在复审中被发现存在标内容问题，相关视频内容将被停止推荐。
移动短视频智能审核
移动短视频平台的用户皆可成为其内容生产者，因此海量的短视频内容审核工作无法仅依靠人工团队进行，人工智能过滤系统可以有效提高内容审核效率。如审核机制中提到，短视频内容上传到后台之后首先将由人工智能进行筛选，过滤掉有明显违禁信息的内容，审核正常的内容直接进行分发，部分疑似违规内容机器不能判断的再会分级至人工审核渠道。
人工智能系统的研究方向是将机器学习、自然语言理解、计算机视觉、人机交互与机器人等研究成果应用于审核系统中，内核是基于数据挖掘的人工智能技术，包含了上亿条数据的数据库。
移动短视频内容生产平台借助数据库将图像、文字、视频识别模型进行不断训练，以提高审核的智能化程度。随着视频分析与检索技术通过对视频内容自动深入的理解，可以快速辅助审核人员在每天上传的短视频中，筛选出不适合分发的色情、低质、盗版等问题视频。
两种短视频审核手段
人工智能技术目前的审核手段主要包括图片审核、文字审核。
主流的图片审核的方式通过移动视频转化成多张截图，利用图像识别系统进行审核甄别。该系统主要利用了人工智能视觉识别技术，通过对平台常出现的不良信息进行标注及汇总后，技术团队将数据交给机器进行训练，让机器逐渐掌握各种形态的不良信息的主要形态，经过反复训练提高人工智能的审核准确率。
文字识别主要是对短视频的字幕、评论等进行审核。短视频发布之后，系统在评论中发现用户对相关短视频内容、呈现的事件本身的评价。上传的内容进行初步违规审核过后，会进行重复率的审核，将短视频内容与数据库数据进行比对，认定为重复内容的视频进行低流量推荐。