国内外代表性大模型参数及预训练数据对比
创作时间:
作者:
@小白创作中心
国内外代表性大模型参数及预训练数据对比
引用
1
来源
1.
https://www.hangyan.co/charts/3336832998115902611
随着人工智能技术的快速发展,大模型已经成为AI领域的核心竞争力。本文将通过对比中美两国在大模型数量、参数规模和影响力方面的差异,揭示全球AI大模型的发展现状。
大模型方面,我们通过大模型数量和大模型表现来进行比较。大模型数量:根据赛迪顾问数据,截至 2023 年 7 月,中国已累计发布 130 个大模型;国外共发布 138 个,其中美国共 114 个。中美两国大模型合计数量占全球 90%以上,具有绝对优势。从大模型参数来看,中美两国的代表性大模型里均是既有千亿参数的通用大模型,又有几十亿参数的行业垂直大模型。但是,在影响力方面,中国缺少像 GPT-4、Gemini、Sora 这种具有全球影响力的大模型,中国的行业大模型居多,占总数的 60%,商业、金融、医疗居多。
表8:国内外代表性大模型参数及预训练数据对比
模型 | 研发团队 | 参数规模 | 预训练tokens |
|---|---|---|---|
Gemini 1.5 pro | 175B | ||
Gemma-2B(开源) | 谷歌 | 2B | 2T |
Gemma--7B(开源) | 7B | 6T | |
StableDiffusion | 高通 | 65B | 1.5T |
GPT-3 | OpenAI | 175B | 300B |
GPT-4 | OpenAI | 1.8T | 13T |
LLaMA(开源) | Meta | 7B-65B | 1T/1.4T |
Sora | OpenAI | 7B | |
ChatGLM-6B(开源) | 清华大学 | 6B | |
GLM-130B(开源) | 130B | 400B | |
混元大模型 | 腾讯 | 100B+ | 2T+ |
文心一言 | 百度 | 260B |
热门推荐
在什么情况下牙齿需要进行种植牙?了解种植牙的必要性与适应人群
橄榄油怎么吃的正确方法
315 晚会曝光后,广东督促“保水虾仁”涉事企业召回相关产品
古琴:中国最受尊崇的乐器
中国古代城市规划中的“阴阳风水”考量
评残九级等级标准和补偿
定制一个API接口多少钱?
深理工直逼中大!多所高校飙升!广东2024高校投档情况
运用奥卡姆剃刀定律,享受简单生活
FGO苍白骑士攻略:强度解析与玩法技巧
看,三连杯酸奶受欢迎的背后逻辑
淄博必尝的十道美食,错过就太可惜了!
MRI在医学诊断中的作用
生成式人工智能(AI)的应用
怎么防止脚上长水泡
烫伤起水泡需要弄破吗?医生的专业建议来了
星币一正位:塔罗牌中的稳健与丰盛
塔罗牌星币1正位:财富与新起点的象征
内镜检查有哪些技术可以帮助早期发现肿瘤?
警惕“过度医美”!以健康为基石,科学变美
成人高考自己如何报名?需要准备什么材料?
内蒙古发现窃蛋龙类恐龙新类群:“百年鸳鸯龙”填补演化空白
最好的点痣方法有哪些?
西安地铁8号(环)线最全换乘攻略!
兼职工作在哪里发布?HR专家为您解析
下巴疼痛?这四种疾病可能是信号!
岩板是什么材质做成的,岩板和瓷砖的区别,岩板餐桌的优缺点
你不知道的儿童换牙冷知识
普洱茶存储指南:如何正确保存以保持风味
科学解析:沐浴对健康的影响