问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

Tokens是啥?为啥大模型按Tokens收费?和API调用、订阅收费区别?

创作时间:
作者:
@小白创作中心

Tokens是啥?为啥大模型按Tokens收费?和API调用、订阅收费区别?

引用
1
来源
1.
https://www.53ai.com/news/LargeLanguageModel/2025022343062.html

Tokens是大模型处理的最小单位,相当于一种“计算粒度”。大模型按Tokens收费的模式,相比传统的API调用和订阅收费方式,能够更精准地控制资源使用,实现公平透明的计费。本文将深入探讨Tokens的定义及其在大模型中的应用,以及不同计费方式的区别和适用场景。

Tokens是什么?

Tokens是大模型处理的最小单位,相当于一种“计算粒度”。它不是直接用字或单词来计量,而是文本经过模型分词器切分后得到的最小单位。

例如,英文「I love AI !」和中文「人工智能很强大」,经过分词器处理后会生成相应的Tokens。需要注意的是,Token的长度并不固定,它取决于具体模型的Tokenizer(分词器)规则。

Tokens计费方式

大模型按Tokens收费的模式,主要是因为大模型运行的计算成本非常高。按Tokens计费可以更精准地控制资源使用,实现公平透明的计费。

费用由两部分组成:你输入的问题+AI输出的答案,都要算钱。例如,输入 1k tokens + 输出 2k tokens = 按 3k tokens 计费。

Tokens计费与传统API调用的区别

如果按传统API调用收费方式,按次收费,调一次收一次,且每次收固定费用,显然不合理。对于大模型来讲,短文本和长文本的计算成本完全不同。

例如,短信 API(每发一条短信,固定收取 0.01元)和天气查询 API(每查一次,固定收取0.03元),这与现在的按Tokens消耗收费区别还是非常明显。

Tokens计费与订阅收费的区别

订阅收费通常按月/年付费,无论实际使用量是多少,一般都是固定费用。而按Tokens计费则根据实际使用量来收费,更加灵活和精准。

混合收费模式

实际项目中付费方式很多都采用【混合模式】,比如【API按次 + Tokens按量】混合收费、【订阅 + Tokens按量】混合收费、【一次性合同+日常运营】混合收费等。

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号