问小白 wenxiaobai
资讯
历史
科技
环境与自然
成长
游戏
财经
文学与艺术
美食
健康
家居
文化
情感
汽车
三农
军事
旅行
运动
教育
生活
星座命理

Tokens是什么?大模型按Tokens收费与传统方式有何不同?

创作时间:
作者:
@小白创作中心

Tokens是什么?大模型按Tokens收费与传统方式有何不同?

引用
CSDN
1.
https://m.blog.csdn.net/htjl575896870/article/details/146112194

在AI大模型服务中,Tokens作为一种计算单位,正在逐渐成为主流的计费方式。那么,Tokens究竟是什么?它与传统的API调用、订阅收费方式有何不同?本文将为您详细解答。

Tokens是什么?

Tokens是大模型处理的最小单位,相当于一种"计算粒度"。它不是直接用字或单词来计量,而是文本经过模型分词器切分后得到的最小单位。例如,英文"I love AI !"和中文"人工智能很强大"都会被切分成若干Tokens。

简单理解,Token ≠ 单词 ≠ 字符,而且Token的长度并不固定,取决于具体模型的Tokenizer(分词器)规则。

为什么按Tokens收费?

大模型运行的计算成本非常高,按Tokens计费是为了更精准控制资源使用,这样的计费方式更加公平和透明。

与传统的API调用收费方式相比,Tokens收费能更精确地反映实际消耗的计算资源。例如,短文本和长文本的计算成本完全不同,按Tokens计费可以更合理地分配费用。

费用由两部分组成:你输入的问题+AI输出的答案,都要算钱。例如,输入1k tokens + 输出2k tokens = 按3k tokens计费。

Tokens收费与传统收费方式的区别

  • API调用收费:按次收费,每次收取固定费用。例如,短信API(每发一条短信,固定收取0.01元)。
  • 订阅收费:按月/年付费,无论实际使用量是多少,一般都是固定费用。
  • 按计算资源收费:按消耗的计算资源(CPU/GPU/TPU)收费,或按数据存储容量(GB/TB)收费。
  • 功能解锁收费:解锁一个功能收多少钱,有的也分基础版、高级版等。

混合收费模式

实际项目中,很多采用混合模式收费,例如:

  • API按次 + Tokens按量混合收费
  • 订阅 + Tokens按量混合收费
  • 一次性合同+日常运营混合收费

这种混合模式可以更好地满足不同用户的需求,提供更灵活的付费选择。

© 2023 北京元石科技有限公司 ◎ 京公网安备 11010802042949号
Tokens是什么?大模型按Tokens收费与传统方式有何不同?