乔红院士发布2024人工智能十大前沿技术：从数据到实体的全面革新

乔红院士发布2024人工智能十大前沿技术：从数据到实体的全面革新

引用

新华网

等

6

来源

1.

http://www.xinhuanet.com/tech/20241028/69d284a3aa5745c6a31483b34e8c721f/c.html

2.

https://m.sohu.com/a/826827946_121798711/?pvid=000115_3w_a

3.

https://news.sciencenet.cn/htmlnews/2024/10/532458.shtm

4.

https://m.sohu.com/a/819974422_121798711/?pvid=000115_3w_a

5.

https://www.cast.org.cn/xkx/xw/mtbd/art/2024/art_550773231.html

6.

http://www.news.cn/tech/20241028/69d284a3aa5745c6a31483b34e8c721f/c.html

2024年10月23日，在北京举行的2024年世界科技与发展论坛上，中国科学院院士、世界机器人合作组织理事长乔红发布了《2024人工智能十大前沿技术趋势展望》。这份报告涵盖了AI共性技术、大规模预训练模型、具身智能以及生成式人工智能等多个领域的发展趋势，不仅展示了AI技术的广阔发展前景，也为未来的研究方向提供了重要参考。

小数据与优质数据的崛起

在大数据时代，数据量的大小似乎成为了决定AI系统性能的关键因素。然而，乔红院士指出，大量无效数据不仅消耗计算资源，还可能影响模型训练效果。因此，小数据和优质数据的价值日益凸显。这些数据更注重精度和相关性，能够从本质上减少AI算法对数据的依赖，增强网络可靠性。建设多样性的数据集不仅能够支撑不同技术路线的AI发展，还为解决通用人工智能的瓶颈问题提供了新的可能。

人机对齐：构建可信赖的AI系统

人机对齐是确保AI系统输出结果与人类价值观相符的核心问题。乔红院士强调，仅依靠数据和算法并不足以实现人机对齐，需要将人类的价值观和伦理道德转化为强化学习奖励函数，引导模型学习到更加符合人类期望的行为。这种对齐机制不仅在算法开发中至关重要，在实际应用中更是必须遵循的底线，它要求AI在高效能的同时兼顾伦理和社会责任。

AI“宪法”：确保合规性与安全性

随着AI技术的广泛应用，其合规性、安全性和伦理问题愈发突出。建立AI监督模型框架成为当务之急。其主要目的是通过制定明确的标准和规范，确保所有AI系统在开发和使用过程中遵循既定的原则，从而减少AI在制度没有确定的情况下被过度使用所带来的风险。

可解释性模型：让AI更透明可信

提升模型的可解释性是增强用户对AI系统信任的关键。以医疗领域为例，具有高可解释性的AI诊断系统能让医生更清楚地理解判断依据，进而减少不必要的检查，降低医疗成本。此外，可解释性还能在法律和伦理层面为AI系统提供额外的保障，促进其在各领域的应用。

规模定律下的预训练模型革新

基于海量参数和训练数据的大规模预训练模型能够有效提高人机交互和推理能力，增强可完成任务的多样性和丰富性。目前规模定律依然有效，不仅体现在语言模型上，也在图像处理、语音识别等多个领域中得到了验证。这种大规模模型的持续发展，将进一步推动AI技术的普及和应用。

全模态大模型：打破数据壁垒

全模态大模型的开发，意味着AI能够处理来自不同类型的数据，这对于提升AI应用的适应性和灵活性至关重要。例如，在机器人领域，整合视觉、听觉与触觉感知的能力能够提高机器人的环境理解与互动能力，为更复杂的实际应用场景提供支持。

AI驱动科学研究的新纪元

AI不仅改变了商业与日常生活的面貌，更在科研领域发挥着巨大作用。研究人员通过应用大模型与生成式技术，优化提出假设、实验设计与数据分析等阶段的效率。AI能够实时监控实验进展，动态调整策略，提升科研的准确性与速度。

具身小脑模型：赋予机器人实时反应能力

传统大模型可以协助机器人处理决策、任务拆解和常识理解等慢通道反应任务，但不适合做强实时性和高稳定性的机器人规划与控制快通道反应任务。具身智能小脑模型可以通过多模型投票等集成学习方法，结合机器人本体结构与环境特性选择合理的模型控制算法，确保机器人在理解自身本体约束的前提下，完成高动态、高频、鲁棒的规划控制动作，使智能机器人更加满足现实世界的精细操作与实时控制需求。

实体人工智能系统：智慧赋能物理世界

实体人工智能系统是将具身智能赋能于物理世界中的实体对象，使传统设备能够突破其原有的功能限制，实现更高水平的智能化操作。人形机器人是实体人工智能系统的终极表现形态，它不仅具备多模态感知和理解能力，能够与人类自然互动，还可以在复杂环境中自主决策和行动，并有望在未来应用到更多复杂的工作场景中。

世界模拟器：创造无限可能的数字世界

世界模拟器通过综合考虑数据质量、多样性、模型训练策略和正则化技巧，生成模型在未见数据上的泛化能力得以不断提高，结合数字交互引擎提供沉浸式的高仿真体验，为使用者带来更加丰富和多样化的游戏世界，应用于教育、娱乐等领域，还可创造更多超级数字场景。

乔红院士指出，从智能制造到智慧城市，从医疗健康到金融服务，人工智能的应用无处不在，其影响力深远而广泛。这些前沿技术的发展不仅将为人们带来更加便捷、高效的生活方式，还将推动各行各业的创新和发展。然而，如何把握人工智能的发展方向、如何推动技术创新与产业升级、如何确保人工智能技术的可持续发展，这些问题都需要深入思考和探讨。

总的来说，人工智能的发展正以前所未有的速度推进科技进步和社会变革，无论是AI共性技术、大规模预训练模型、具身智能还是生成式人工智能等前沿领域，都充满了无限的可能和潜力。这些技术的发展不仅将为人们带来更加便捷、高效的生活方式，还将推动各行各业的创新和发展。