解读《生成式人工智能服务安全合规指引》：AIGC的安全合规体系建设之道

解读《生成式人工智能服务安全合规指引》：AIGC的安全合规体系建设之道

引用

网易

1.

https://dun.163.com/news/p/494c72848e22460583838181b7795455

在2023年，一则用户通过AIGC获取Windows 11专业版序列号的事件引发了广泛关注。这一"奶奶漏洞"事件不仅暴露了AIGC在安全合规方面存在的风险，也成为了推动AIGC安全合规体系建设的重要里程碑。

《生成式人工智能服务安全合规指引》解读

为规范AIGC发展，我国已出台两部专门性立法：《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理办法（征求意见稿）》。在此基础上，网易易盾联合多家互联网企业发布了《生成式人工智能服务安全合规指引》，从多个维度构建安全合规体系。

该《指引》重点关注四大方向：

• 安全组织建设：按照"三定原则"（定组织、定岗、定职责）设立算法安全委员会，建立三级管理架构。
• 安全制度建设：建立健全覆盖用户注册、算法审核、科技伦理审查等管理制度。
• 生成内容安全管理：对用户输入和模型输出的内容进行违法和不良信息识别。
• 网络和数据安全管理：防范物理攻击、网络攻击等风险，保护用户隐私。

AIGC安全合规体系建设之道

在行业共建之外，企业自身也需要构建完善的安全合规体系。以网易易盾为例，其AIGC全链路内容安全解决方案涵盖六大服务，覆盖模型训练到内容生成全过程。

该方案具有两大关键特点：

• 全周期覆盖：在模型训练、上线、内容生成各阶段均设置安全措施。
• 多维度防护：包括语料标注、大模型安全评估、实时内容审核等。

网易易盾的内容安全产品总监表示，希望通过该《指引》的推广应用，提升企业的AIGC安全性，营造良好的产业发展环境。

目前，网易易盾已在文生文、文生图、AI问答等多个场景落地实践，为生成式人工智能的健康发展提供安全保障。