元宇宙安全：AI如何保驾护航？
元宇宙安全：AI如何保驾护航？
元宇宙作为下一代互联网的重要形态，其安全问题日益凸显。在最近的人工智能大会上，专家们一致指出，AI技术是保障元宇宙安全的关键。通过AI赋能，可以有效应对诸如拒绝服务攻击、社会工程学攻击等新型威胁场景，同时还能防范非法集资、个人隐私侵害等风险。百度、合合信息等公司展示了AI在文字识别、PS篡改检测等方面的应用，为构筑面向未来的数字空间规则提供了技术支持。
AI在元宇宙安全中的具体应用
在元宇宙中，知识产权保护是一个重要课题。区块链和人工智能的结合为这一挑战提供了创新解决方案。区块链技术提供了独特的功能，符合元宇宙中知识产权保护的需求：
不可变的记录保存：区块链的去中心化账本创建了不可篡改的所有权记录，确保知识产权得到透明记录。例如，创作者可以在区块链上注册他们的数字资产，如虚拟房地产、NFT（非同质化代币）或数字艺术。这个带时间戳的记录可作为所有权证明，防止纠纷和伪造。
智能合约：智能合约（区块链上编码的自动执行协议）可自动执行知识产权。例如：
- 创作者可以使用智能合约，在其数字资产在元宇宙中转售时自动收到版税。
- 虚拟产品的许可协议可以编码为智能合约，确保合规性并减少法律开销。
来源追踪：区块链可以透明地追踪资产的历史，包括资产的创建、所有权变更和交易。此功能对于验证数字资产的真实性、降低欺诈和伪造风险非常有用。
互操作性：区块链的去中心化特性确保知识产权保护可以跨越多个元宇宙平台。使用可互操作的标准，创作者无论在哪个虚拟世界中运作，都可以保护自己的资产。
非同质化代币 (NFT) 是元宇宙中基于区块链的知识产权保护的一个典型例子。NFT 将数字资产与独特的区块链记录联系起来，确保真实性，并使创作者能够安全地将其作品货币化。例如，在元宇宙中销售虚拟商品的艺术家可以依靠 NFT 来证明所有权并执行转售版税。
人工智能通过增强元宇宙中知识产权的检测、执行和管理来补充区块链：
内容识别与监控：人工智能算法可以识别和监控整个元宇宙的数字资产，以检测未经授权的使用或复制。例如：
- 图像识别人工智能可以检测受版权保护的数字艺术品是否在不同平台上被复制。
- 自然语言处理(NLP) 模型可以监控基于文本的内容是否存在抄袭。
侵权检测：即使在复杂情况下，AI 也能出色地识别侵权模式。例如，AI 可以分析交易、元数据和用户行为，以标记假冒 NFT 或被盗数字商品。通过自动化此过程，AI 减少了知识产权执法所需的时间和精力。
预测分析：通过分析用户活动趋势和过去的侵权案例，人工智能可以预测潜在的知识产权纠纷。这可以采取主动措施防止侵权行为，例如发出警告或阻止访问侵权内容。
自动化法律援助：人工智能聊天机器人和法律助理可以指导创作者完成知识产权注册、争议解决和合规流程。这些工具降低了可能缺乏资源的小型创作者获得知识产权保护的门槛。
区块链为知识产权保护提供了基础设施，而人工智能则通过自动化和智能化提高了其有效性。这些技术共同为保护元宇宙中的知识产权创造了一个强大的生态系统：
增强资产认证：人工智能可以验证区块链上注册的数字资产的真实性。例如，人工智能算法可以验证上传的 3D 模型是否与其注册的区块链记录相匹配，从而确保一致性。
动态执行机制：人工智能可以实时监控虚拟世界中的知识产权侵权行为，而基于区块链的智能合约则会自动执行处罚或限制。这种协同作用确保对侵权行为做出迅速有效的反应。
可扩展保护：人工智能处理海量数据的能力与区块链的去中心化基础设施相结合，确保了在广阔的元宇宙中可扩展的知识产权保护。
数据完整性：区块链确保人工智能模型所用数据的完整性和安全性。通过从防篡改账本中获取数据，人工智能算法可以以更高的准确性和可靠性运行。
专家观点与挑战
安全是人工智能的核心竞争力，需要建立完善的安全体系。AIIA安全治理委员会治理组组长呼娜英指出，人工智能安全分为自身安全与衍生安全，自身安全主要是模型、数据、芯片、系统、算力、网络以及应用业务存在的固有风险；衍生安全则是指人工智能实践应用中带来的安全问题，目前概念较为模糊。
北京邮电大学教授、博士生导师、网络空间安全学院副院长张熙总结目前人工智能安全的四个局限：
- 缺少全生命周期安全风险分析管控，目前停留在单点安全研究
- 安全评测以静态评测为主，缺少自演化自评估能力，难以适用日新月异的大模型发展
- 数据隐私、版权保护与利用存在一定矛盾
- 目前主要靠外挂护栏打补丁的方式保证安全，那效率和可靠性存在一定不足，需要与内生安全开展协同的设计
中国科学院自动化研究所研究员、国家新一代人工智能治理专委会委员、联合国人工智能高层顾问机构专家曾毅并不认同这种观点。“人工智能安全本身就是人工智能能力的体现，把人工智能做得更安全，并不会降低人工智能的能力，更安全的系统人工智能的认知能力会更强。”
“安全是大模型的核心竞争力。”阿里研究院 AI 治理中心副主任王铮表示。
曾毅认为，安全不是一个人工智能的分支或一个研究领域，而应该是所有人工智能科研工作者内建的基因。“不是一个选择题，而是一个必答题。”
关于安全测评，曾毅坦陈，国内在大模型的内容安全、价值安全、数据安全、模型安全等领域做得较好，但在系统安全、应用安全方面相对欠缺。有些单位可能只在内容安全、价值安全上做了工作，数据安全模型方面基本空白，没有任何一家能构建完善的安全体系。“目前没有任何一个人工智能产品可以说是绝对安全和可信的，我们的目标是开发可信安全的人工智能。”
他还表示，目前人工智能既没有通过相关测试，也没有做到绝对安全，人类社会的规则无法穷尽，不同文化的规则也难以穷尽，要使人工智能发展为真正有道德的人工智能，需要从具有一定程度的自我发展到能够区分自我和他人，产生认知共情，获得利他的道德自觉，最终产生道德的推理。
未来发展方向
国家自然科学基金委员会设立“元宇宙理论与技术基础研究”专项项目，聚焦元宇宙学术前沿方向，探索新型科研范式及其相关创新理论、技术，在数据高效处理、沉浸感知仿真、不确定性量化、三维生成呈现、具身行为交互、工业元宇宙应用等方向取得原创性突破，为元宇宙产业发展提供基础理论和关键技术支撑。
具体研究方向包括：
元宇宙中复杂数据处理与高效计算方法：研究复杂数据分布式高效处理和视听觉多模态数据高效编码方法，支持海量多模态异构时变数据高效存储加工与表示，研究基于隐私计算的元宇宙数据分发方法与协作机制，实现元宇宙数据的高效共享与安全可信应用。
面向元宇宙的多源沉浸感知与物理仿真：研究用于精准采集环境及目标物体的视觉、听觉、触觉、味觉、嗅觉等多源感知技术，基于多源感知信息构建情境理解引擎，研究模拟声、光、电、力学等物理规律的数学模型与算法、计算优化和数据驱动仿真等，构建高真实感的虚拟环境，实现高精度的实时仿真和多物理场耦合。
元宇宙模型的不确定性量化与在线更新：研究“机理+数据”仿真的不确定性量化理论方法；研究原创的元宇宙经济模型，完成多元主体参与的激励机制及元宇宙数字资产标准；研究基于不确定性与建模精度的模型在线更新机制，实现模型在不同计算资源下的灵活切换与优化，提升元宇宙模型反映物理世界变化的实时性。
元宇宙虚实融合空间三维生成与呈现技术：研究物理世界高真实感快速三维重建方法，通过融合多模态传感器采集动态三维场景信息，利用三维生成技术提高三维场景采样效率，进行几何与外观的快速重建，为虚实融合提供高真实感的空间信息，研究复杂几何、材质和结构的三维物体和场景的生成式构建及虚实融合呈现方法，有效支撑虚实融合空间的沉浸式信息融合渲染。
元宇宙多尺度世界模型构建与具身行为交互技术：研究复杂真实世界的结构化层级化抽象机理，构建从真实环境到虚拟场景的多尺度世界模型，研究元宇宙具身交互多感官融合机制，评估不同类型的感官呈现一致性准则及对用户感知-认知-行为的影响，支撑元宇宙中具身行为的高真实感、高沉浸感人机交互。
元宇宙中多智能体协作机制：研究元宇宙多机协作、多人协作、人机协作等多元智能体协作机制，包括协作任务分解、协作意图理解、协作冲突消解、协作行为抽象、协作决策共商等方法，实现元宇宙中多智能体的高效协作与人机高效互动。
工业元宇宙实现与应用：研究多元异构工业数据转换与几何-物理-行为-工况建模技术，实现高精度的工业场景建模与虚实映射；研究数字孪生多元数据耦合与全要素仿真技术，提升对工业系统的预测精度与决策支持能力。在装备设计优化、智能车间规划、故障智能预测等不少于一个典型工业场景中开展应用验证。
通过这些研究方向的探索，我国有望在元宇宙领域实现理论创新和技术突破，为元宇宙的健康发展提供坚实的技术支撑。专家们普遍认为，虽然当前面临诸多挑战，但随着技术的不断进步和安全体系的不断完善，AI将在保障元宇宙安全方面发挥越来越重要的作用。