问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

这份未来AI竞争形势分析,连马斯克也拍手叫好?一文读懂

创作时间:
作者:
@小白创作中心

这份未来AI竞争形势分析,连马斯克也拍手叫好?一文读懂

引用
网易
1.
https://www.163.com/dy/article/JP5HN2VT05198CJN.html

近日,美国著名TMT(科技、媒体和通信)投资人Gavin Baker在社交媒体X上发布了一篇关于未来AI竞争趋势的推文,引起了特斯拉CEO马斯克的注意并获得其点赞。马斯克旗下的xAI也于近期发布了Grok 3大模型。那么,Baker究竟提出了哪些观点?

AI产业格局加速变革

Baker指出,从2022年夏季到2024年春季,OpenAI一直处于领先地位,但后来谷歌和Anthropic赶上了GPT-4。由于其先发优势,以及积极押注传统的预训练“缩放定律”(Scaling Law),OpenAI公司占据了逾7个季度的主导地位。

然而,Baker认为,“Scaling Law”的优势窗口正在关闭。他写道:“Google的Gemini、xAI的Grok-3,以及Deepseek的最新模型,均已达到与GPT-4相近的技术水平。就连OpenAI创始人奥尔特曼也指出,OpenAI未来的领先优势将更加狭窄。微软CEO纳德拉表示,OpenAI在模型能力方面领先的独特时期即将结束。”

数据成为竞争核心

在当前背景下,Baker认为,“独一无二”的数据资源才是决胜的关键。他进一步指出,谷歌和Xai都拥有独特的、有价值的数据来源,这将使它们与Deepseek、OpenAI和Anthropic越来越不同。

“我多次转述EricVishria的话,无法获得独特、有价值数据的前沿模型是史上贬值最快的资产,而蒸馏只会放大这一点。”他写道。

大模型蒸馏(Large Model Distillation),简单来说,就是将一个复杂的大模型(教师模型)的知识迁移到一个较小的模型(学生模型)中。就像老师把自己渊博的知识传授给学生,让学生能够在资源有限的情况下,尽可能地表现出和老师相似的能力。

Baker还指出,如果未来前沿模型无法访问YouTube、X、TeslaVision、Instagram和Facebook 等独特而有价值的数据,则可能没有任何投资回报率。独特的数据可能最终成为预训练数万亿或千万亿参数模型的差异化和ROI(投资回报率)的唯一基础。

格局变化

Baker总结称,如果这是正确的,那么巨型数据中心只需要2-3个,推理所需算力占95%。AI计算的其余部分将是较小的数据中心,这些数据中心在地理空间上进行了优化,以实现低延迟和/或成本效益推理。

他解释称,成本效益推理=更便宜的电力(核能的溢价更低),基于量化压缩技术(如Deepseek R1的1-bit LLM)支撑低成本推理。

Baker总结称,与之前那种预训练和推理阶段计算资源分配大致各占一半的情况不同,现在会变成预训练占 5%,推理阶段占95%。卓越的基础设施将至关重要。

最后,他还提到,如果OpenAI在5年后仍然是该领域的领导者,那可能是因为先发优势和规模优势,以及产品影响力。“时间会证明一切。”他写道。

本文原文来自财联社

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号