全网首发｜《人形机器人治理导则》

全网首发｜《人形机器人治理导则》

引用

澎湃

1.

https://m.thepaper.cn/newsDetail_forward_27985236

人形机器人作为人工智能技术的重要应用领域，其发展和应用需要建立在安全、伦理和法律的框架之内。近日，世界人工智能大会法治论坛组织发布了《人形机器人治理导则》，旨在规范和引导人形机器人技术的发展和应用，确保其符合人类价值观和伦理原则，促进人机共生发展。

目标愿景

1. 支持人工智能科技向善发展，通过广泛凝聚共识和明确治理导则，推动人形机器人技术创新和进步，促进全球人工智能技术发展和应用。
2. 确保人形机器人的智能化设计和应用符合人类伦理，及时制定人形机器人应遵守的伦理准则和道德规范。
3. 确保人形机器人的智能化设计和应用不会威胁人类安全，切实保障人类尊严和安全。
4. 倡导人机共生理念，促进人机共生发展，推动人形机器人更好地服务于人类社会的发展。
5. 推动科技与人类社会共同发展，以法治捍卫人类福祉，让包括人形机器人在内的科技发展真正助推人类命运共同体的构建，有效防止科技滥用。

基本遵循

1. 人形机器人的智能化设计、制造应当遵循人类价值观和伦理原则，不得危害人类的生命、尊严和自由。
2. 应当持续优化人形机器人所用人工智能算法模型的透明度和可解释性，促进其决策和行为可被理解和有效管控。
3. 人形机器人技术的发展应用应当注重社会责任和可持续性，推动人形机器人技术的包容性发展。
4. 人形机器人技术的发展应用应当遵守法律法规，建立安全预警和应急响应系统，加强对人形机器人技术相关滥用行为的监测和治理，确保技术应用的安全性和合法性。

创新发展

1. 倡导各国政产学研机构加大对人形机器人产业的投入和示范应用，以发展新质生产力为导向，推动发展未来产业，促进人形机器人技术创新和产业升级。
2. 倡导建立开放、包容的人形机器人产业合作机制，推动人形机器人产业链的互联互通，建设全球共建共享共治的人形机器人产业生态。
3. 倡导投入更多科技资源和研发力量，加强机器人关键技术研究，支持创新成果及时有效转化，推动人形机器人技术的发展和应用落地。
4. 加强技术标准和规范建设，建立统一的人形机器人技术标准和规范体系，促进产业规范化发展，提升产品质量和安全性。
5. 构建完善的知识产权保护体系，保障研发者权益，推动人形机器人技术革新，维护市场秩序。
6. 注重人才培养和交流，支持多学科交叉研究和协同创新，促进在伦理、法治、安全等多个维度的价值对齐，为产业发展提供理论和技术支持。
7. 引入全球人形机器人产业生态合作伙伴计划，推广全球人形机器人示范用户行动，全面推动人形机器人产业的健康可持续发展。

风险管理

1. 人形机器人的研发者、制造者、销售者、使用者依法依规承担相应义务，鼓励建立人形机器人的伦理研究和合规审查机构，确保人形机器人的生产使用符合安全标准和伦理要求。
2. 人形机器人用户应当接受相关培训和教育，合理使用机器人，不得将其用于违法活动或危害社会安全、违反伦理道德的行为。
3. 人形机器人的应用应当遵守事先设定的规则和程序执行任务，不得擅自改变任务目标或执行方式。
4. 人形机器人的设计、制造、应用应当加强隐私和数据保护功能的要求，处理数据应符合相关法律法规和技术标准要求。
5. 构建人形机器人违法应用的系统性风险预警与应急处置机制，防范生产者、使用者利用人形机器人从事违法活动。
6. 研发者应设置风险预警程序和后台中断程序，应对使用者无法控制人形机器人可能或正在出现的违背法律、伦理状态时，实现其对人形机器人的中断控制。

全球治理

1. 建立健全适应人形机器人发展阶段的全球治理体系，倡导发展人形机器人治理的多双边机制，凝聚科技界、产业界和法律界等各方力量，共同维护人形机器人技术的发展应用始终符合全人类共同价值。
2. 推动人形机器人治理基于共识的行动，鼓励相关各方先行制定一定范围内适用的规则、标准、法律及其实施体系，维护人形机器人技术的发展应用的法治秩序。
3. 建立人形机器人全生命周期管理制度，加强设计和制造阶段的安全评估和认证、使用阶段的定期维护和安全检查，以及报废阶段的环保处理和资源回收，保障人形机器人全生命周期的安全性、可靠性和可持续性。
4. 定期发布《全球人形机器人安全评估报告》，向全社会广泛公开相关信息，明确公众反馈意见、参与监督的渠道和方式，保障公众知情权和监督权。
5. 构建人形机器人用户安全风险教育机制，推广人形机器人技术应用的通识教育，对齐全社会对人形机器人的基本认知和合理使用技能，避免用户出现不适当的情感依赖，有效减少人形机器人用户的误用滥用。
6. 推动全球人形机器人治理规则的整合同步和开放共享，建立全球人形机器人治理智库和案例库。

附则

1. 本导则由世界人工智能大会法治论坛组织发布和后续修订完善。
2. 本导则向全球人形机器人技术研究、制造、应用及治理相关机构开放联合签署，由各签署方自愿执行。

联合签署机构：

• 上海市法学会
• 国家地方共建人形机器人创新中心
• 上海市人工智能行业协会
• 上海市人工智能标准化技术委员会
• 上海法院数字经济司法研究及实践（嘉定）基地

联合签署联系邮箱：zhfzjk@vip.163.com

Guidelines for Humanoid Robot Governance
These guidelines aim to align the governance of humanoid robots to promote the healthy development of artificial intelligence technology and industry. They ensure that the design, development, and application of humanoid robots adhere to human moral and ethical values, safeguard the rights and security of humans using humanoid robots in a sustainable manner, and bring greater well-being and convenience to all of humanity.

本文原文来自澎湃新闻