专家齐聚研讨生成式AI与个人信息保护：如何平衡发展与安全？

专家齐聚研讨生成式AI与个人信息保护：如何平衡发展与安全？

随着生成式人工智能的快速发展，其在带来巨大机遇的同时也引发了个人信息保护方面的担忧。2024年3月22日，中国互联网协会召开第269期蓝海沙龙，聚焦“生成式人工智能领域下的个人信息侵害风险及应对策略”这一主题，多位专家学者齐聚一堂，共同探讨如何在推动AI发展的同时保护个人信息安全。

中国互联网协会副秘书长裴玮在致辞中指出，生成式人工智能为教育、娱乐、医疗保健和科学研究等多个领域提供了变革潜力，激发起前所未有的关注度和创造力浪潮。但同时，生成式人工智能也对既有的个人信息保护体系形成了巨大冲击与威胁。本次研讨会结合人工智能的具体落地应用案例，重点关注生成式人工智能时代如何提升个人信息保护技术手段的有效性，讨论如何健全监管空缺与补充机制、平衡安全与发展等问题，旨在为政府部门的监管和治理提供思路和建议，更好地推动生成式人工智能行业的建设和健康发展。

华为云EI解决方案专家张瑞锋介绍了华为云大模型的三层架构，包括L0基础大模型、L1行业大模型及L2场景模型。其中基础大模型当前包括NLP大模型、CV大模型、多模态大模型、预测大模型和科学计算大模型5种。华为云大模型已在政务、医疗、金融、司法等多个行业落地应用。

360集团法务部资深律师王乐分析了生成式人工智能领域个人信息保护的三大风险：训练数据过程中的误抓取风险、信息流转过程中的泄露风险、以及新业态发展速度过快导致企业轻视信息安全的风险。他建议采取轻事前重事后、轻过程重结果的监管策略，并强调企业要强化自身的安全建设，对个人信息进行分类分级管理。

阿里巴巴集团公共事务总监肖尧介绍了阿里巴巴在大模型领域的布局，包括通义千问、通义万相等基础大模型，以及通义听悟、通义法睿等8类垂类大模型。他建议探索AIGC数据治理的元规则，由政企学社媒多方联合开展敏捷治理，以确定性的规则满足人工智能对个人信息处理的需求。

淘天集团政府事务总监铁木尔夫建议对生成式人工智能实施分级分类和分阶段监管，并通过协会平台构建沙箱自律监管机制，提升行业自律和事前监管效果。

中国信息通信研究院互联网法律研究中心高级工程师赵淑钰指出，生成式人工智能在发展过程中存在个人信息滥用、泄露风险，以及对现有立法原则的挑战。她建议明确大模型应用红线，以个案导向解决突出问题，逐步构建完善规则体系。

中国移动研究院博士袁博介绍了九天大模型平台的宗旨和发展现状，强调在技术层面保障用户和行业数据安全的同时，需要明确敏感数据的边界。

北京邮电大学电子工程学院教授吴帆建议从标准和政策制定层面快速引导技术发展，确保监管体系与技术发展速度相匹配。

中国社科院法学所研究员杨延超指出，使用过程中的聊天记录形成的完整用户画像是最主要的风险点，需要明确聊天记录的管理与治理规则。

中国科学院信息工程研究所正高级工程师戴娇建议构建框架性的监管体系，通过发展个人信息保护技术推动治理，加强事前事后管理。

中国政法大学副校长时建中总结道，生成式人工智能的监管需要平衡发展与安全、促进与规范等多重关系，建议分场景展开监管，对预训练阶段采取宽容态度，对实际应用场景严格把控。

会议认为，我国生成式人工智能在政务、医疗、金融等领域已展开广泛应用，但需注意与产业前沿的技术差距。个人信息保护应以促进发展为目标，做好各类监管场景的区分。建议政府构建生成式人工智能治理框架，加快标准与政策制定进程，不断创新隐私保护技术。

本文原文来自中国互联网协会