问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

北大团队发布「Align Anything」:全球首个全模态对齐框架

创作时间:
作者:
@小白创作中心

北大团队发布「Align Anything」:全球首个全模态对齐框架

引用
36氪
7
来源
1.
https://36kr.com/p/3154536234670856
2.
https://new.qq.com/rain/a/20241017A0840100
3.
https://new.qq.com/rain/a/20250123A07KH500
4.
https://finance.sina.com.cn/tech/roll/2024-10-17/doc-incswauc2790111.shtml
5.
https://blog.csdn.net/m0_59235699/article/details/145460996
6.
https://www.sohu.com/a/819541793_121798711
7.
https://www.jiqizhixin.com/articles/2024-10-17-8

近日,北京大学团队发布了全球首个全模态对齐框架「Align Anything」,这一突破性成果为AI模型的多模态理解能力带来了革命性提升。该框架支持文本、图像、音频、视频等多种模态的输入输出对齐,为实现真正意义上的通用人工智能提供了重要工具。

创新性的技术架构

「Align Anything」框架的核心优势在于其高度模块化和可扩展性。框架支持包括SFT、DPO、PPO、SimPO在内的6种对齐算法,能够处理从文本到文本、文本加图像到文本、文本到图像、文本到音频、文本到视频等多种模态的微调任务。研究者可以轻松在任意模态上扩展新的对齐算法,这在当前开源社区中尚属首创。

为了推动全模态对齐研究,北大团队还发布了首个全模态人类偏好数据集「Align-Anything」,包含200k条带有详细人类偏好注释和精细语言反馈的数据。这一数据集不仅能够增强模型的多模态理解能力,还能实现跨模态的全面评估和改进。

优异的技术表现

在实际应用中,「Align Anything」框架展现出了卓越的性能。以Llama-3.2-Vision为例,北大团队基于该框架对其进行微调,得到的Beaver-Vision-11B模型在多项评测中超越了Meta官方微调的Llama-3.2-11B-Vision-Instruct。

例如,在回答「图中的拉面来自于何家餐厅?」这一问题时,Llama-3.2-11B-Vision-Instruct未能准确识别餐具中的「一兰」字样,错误地解读为「Ippudo」;而Beaver-Vision-11B不仅准确识别出餐厅信息,还提供了详细的思考与推理过程,展现出更强的指令跟随性和对齐性。

深远的应用价值

对于软件开发者而言,「Align Anything」框架的开源意味着可以更便捷地开发具备多模态理解能力的应用程序。通过该框架,开发者能够快速实现跨模态指令的无缝对接,提升软件的交互体验和智能化水平。

从更宏观的角度来看,这一框架的发布标志着全模态大模型与人类意图对齐研究迈出了重要一步。它不仅填补了现有框架仅支持单一模态或少数模态对齐的空白,更为探索如何让AI系统更好地理解和执行人类指令提供了新的思路。

未来展望

随着「Align Anything」框架的持续优化和社区贡献的不断增加,我们有理由相信,未来的AI系统将能够更自然地理解和处理多模态信息,实现与人类更深层次的交互。这不仅将推动AI技术在各行各业的广泛应用,也将为构建更加安全、可控的AI系统奠定重要基础。

对于关注AI技术发展的读者来说,「Align Anything」框架的发布无疑是一个值得关注的重要里程碑。它不仅展示了中国研究团队在AI对齐领域的创新能力,更为全球AI社区提供了一个强大的开源工具,有望加速通用人工智能时代的到来。

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号