揭秘网易AI鉴黄技术：如何守护网络环境？

揭秘网易AI鉴黄技术：如何守护网络环境？

引用

CSDN

等

7

来源

1.

https://blog.csdn.net/weixin_48827824/article/details/138854018

2.

https://dun.163.com/news/p/3d4a3fd371df464ca085e1e96e1af399

3.

https://dun.163.com/news/p/c4e04227f47744c8b9c07958838d166c

4.

https://dun.163.com/news/p/8862a394653147b581e3189aac17c882

5.

https://dun.163.com/news/p/7f77307853f0465b813d0094255ca34b

6.

https://36kr.com/p/2638393139182728

7.

https://dun.163.com/news/p/0394ccff564c49b58c213b4033f9d0ab

随着互联网的快速发展，黄色信息的传播成为一大难题。据统计，仅网易易盾一家公司，2023年就检测了超过9000亿条数据，处理移动安全风险超400亿条。面对如此庞大的数据量，传统的依靠人工审核的方式已经无法满足需求，而AI鉴黄技术的出现，为解决这一问题提供了新的可能。

随着AIGC时代的到来，数字内容呈爆炸式增长，这给内容平台带来了更大的安全挑战。监管部门也相继出台了一系列法律法规，要求网络平台加强内容审核。在这样的背景下，AI鉴黄技术应运而生，成为维护网络环境清朗的重要工具。

AI鉴黄技术主要采用音频事件检测（Sound Event Detection，简称SED）技术，这是一种自然语言处理领域的重要子任务，能够识别音频中的特定事件及其起始时间。具体来说，该技术通过以下步骤实现：

1. 音频特征提取：首先使用梅尔倒谱系数（MFCC）等方法对音频进行特征提取，将音频信号转换为计算机可以处理的数字形式。

2. 深度学习模型训练：利用大量标注数据训练深度学习模型，使其能够识别特定的音频事件，如色情音频、喘息声等。

3. 半监督学习优化：由于完全依赖强标签数据进行训练存在诸多局限，网易采用了半监督学习方法，结合强标签、弱标签和无标签数据进行训练，提高了模型的泛化能力。

4. 多特征融合：在人物识别任务中，创新性地采用了多特征融合技术，通过人脸信息、体态信息和场景信息等特征的有效融合，提高了识别的准确率。

网易AI鉴黄技术已经在多个场景中得到广泛应用，并取得了显著成效：

• 高准确率：音频内容安全模块准确率高达95%以上，每日能够处理超过亿条音视频内容。

• 大规模处理能力：2023年全年，网易易盾检测数据量超过9000亿，处理移动安全风险超400亿条。

• 创新技术应用：在人物识别任务中，通过多特征融合技术，人脸召回率提升10%，精度高达98%。

为了更好地应对海量内容审核的挑战，网易易盾建立了一套“机审+人审+智能审核系统”相结合的审核机制：

• 智能审核系统：支持最大38路直播视频流同时播放审核，提供丰富的审核工具和模板配置功能。

• 人员培训与管理：通过模拟考试、实战考核等方式提升审核人员的专业素养，每天对审核人员进行能力认证。

• 策略优化：拉通机审和人审的数据生命全流程，根据指标情况调整策略，优化审核效能。

AI鉴黄技术的应用不仅提高了内容审核的效率和准确性，更为维护健康的网络环境、保护青少年身心健康做出了重要贡献。随着技术的不断进步，我们有理由相信，未来的网络空间将会更加清朗。