人工智能企业算法和生成式AI大模型备案的详细讲解！

人工智能企业算法和生成式AI大模型备案的详细讲解！

引用

CSDN

1.

https://blog.csdn.net/chuangfumao/article/details/145568258

随着人工智能技术的快速发展，算法和生成式AI大模型的备案管理已成为企业合规运营的重要环节。本文将详细介绍企业为什么要进行备案、哪些企业需要备案以及具体的备案流程和所需材料。

为什么企业要做备案？

强制｜政策法规

根据国家网信部、公安部、工信部、国家市监总局一起联合发布出台的《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》的文件中，凡在中国境内，应用算法推荐技术向用户提供互联网信息服务的企业或机构，必须依法进行算法备案。

目的｜备案的好处

• 算法备案的目的：核心目标在于规范算法推荐服务，保障用户权益，避免算法歧视和不公平商业实践，如大数据杀熟现象，同时维护网络信息传播秩序与市场公平竞争环境。
• 大模型备案的目的：则更侧重于事前风险管控，确保AI大模型在正式投入市场前已满足国家安全标准及合规要求，有效预防潜在危害，如误导用户或传播非法信息，从而构建安全可靠的人工智能生态。

定义｜算法和AIGC备案

• 算法备案(全称：互联网信息服务算法备案)是由国家网信部门主导，与公安部、工信部、国家市监总局一起联合发布出台《互联网信息服务算法推荐管理规定》后的具有强制性的备案制度。过程旨在确保算法应用的合法性、公正性和透明度，防止算法滥用和危害社会公共利益。
• 生成式AI大模型备案：大模型，即Foundation Models,通常是指具有大量参数和复杂结构的深度学习模型。一般大模型备案指的是生成式人工智能服务(大语言模型)上线备案,由当地网信办层层提交到国家网信办。

什么企业产品需要做备案？

算法｜五大类备案

算法备案由国家网信办负责审批，在线申请完成。企业需在线提交包含主体、算法与产品信息在内的完整资料，经审核合格后授予备案号。分为5大类别：分别是生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类。目前生成合成类算法在各平台上线都需要算法备案号（包含接三方接api实现服务的）。

大模型｜两大类备案

根据相关规定要求，AIGC产品同时满足向中华人民共和国境内公众提供和具有舆论属性或者社会动员能力两个要求时，应当进行算法备案。这类模型因需海量数据训练，能创造多形态内容，故需特别关注其安全性与合规性。

• 向中华人民共和国境内公众提供
  1. 直接2C模式；
     2.间接2C（B2B2C）模式；
     3.公司内测或公开测试；
     4.公司内部使用；
• 具有舆论属性或者社会动员能力
  目前法规对于“具有舆论属性或社会动员能力”还没有明确的定义，《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》以举例的方式给出了两种情形：
  1.开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；
  2.开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

企业如何做备案？

算法｜备案流程（线上）

• 算法备案主体：包括“服务提供者”和“服务技术支持者”，即直接提供应用层AIGC产品的服务商，以及提供基础模型的技术支持方都需进行备案。
• 算法备案流程和内容：算法备案流程主要有两个部分，主体备案和算法备案。算法备案网站为https://beian.cac.gov.cn，主体信息审核通过后才能进行算法备案，算法备案包括算法基础信息填报、关联产品及功能信息或技术服务方式填报。
  
• 算法备案主要材料：
  1.《算法备案承诺书》
  2.《落实算法安全主体责任基本情况》
  3.《算法安全自评估报告》
  4.《拟公示内容》
• 算法备案公示
  1. 备案号公示：根据《互联网信息服务深度合成管理规定》完成备案的服务提供者和技术支持者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
     2.运行机制公示：根据备案系统，企业需要公示算法的机制机理，包括算法基本原理、算法运行机制、算法应用场景以及算法目的意图等内容。

大模型｜备案流程（线下）

• 大模型备案所需的资料：
  1. 大模型基本情况：模型名称、主要功能、适用人群、服务范围以及服务器信息等；
  2. 大模型语料来源及证明文件；
  3. 拦截关键词列表（总规模不少于1w个）；
  4. 评估测试题；
  5. 大模型服务协议；
  6. 安全评估报告；
  7. 相关制度文件；
  8. 其他。