计价单位这个词,在AI行业里已经悄悄换了。
前几年我们谈AI应用成本,习惯说“一次调用多少钱”“一个请求多少钱”,甚至做广告投放的朋友还在按“点击”算账——一个用户点进来,花了多少成本,能带来多少转化。这种按次、按点击的计费逻辑,是互联网时代最主流的成本结构:每一次操作的成本几乎相同,厂商按固定单价卖服务,客户按使用量买服务,双方都能快速估算预算。
但现在你去任何一家大模型服务商的定价页看一眼,价格单位早就不是“每次”“每点击”了,而是“每百万词元(Token)”。输入侧一个价,输出侧一个价,有些还分缓存命中和未命中的价格。对很多刚接触AI的人来说,这个词元计价完全是另一个世界的东西——它不像“点击”那么直观,你没法说“我大概一个月有十万次请求,所以预算是多少”,因为根本不知道一次请求会消耗多少个词元。
这个变化表面上是计费方式的调整,实际上是整个AI行业成本逻辑的一次重写。它会影响到产品怎么设计、提示词怎么写、技术方案怎么选,甚至影响到一个公司该往AI项目里投多少钱。今天这篇内容,我就把这件事从头到尾拆开讲清楚。
1. 计价单位从“点击”到“词元”,到底变了什么
1.1 旧成本结构的底层逻辑:标准化服务定价
先说“按次/按点击计费”为什么能成立。它本质上是一个标准化服务的定价模型——每个请求的服务成本大致相同,所以厂商可以定一个统一单价。比如传统的云端OCR识别服务,你传一张图片上去,它返回识别结果,不管图片里的文字是多还是少,处理时间差异很小,成本也差不多,按次收费合理得很。
这种模式的好处是所有人都容易理解。客户算账很简单:单价乘以调用量。厂商做财务预测也很简单:成本和服务器的处理能力挂钩,流量上来就扩容,流量下去就缩容,单位成本基本稳定。
但这里有一个核心前提:服务的处理和输出内容是“标准化”的。每个请求消耗的资源差不多,最终产物的大小也差不多。这个前提在传统API时代基本成立,但到了大模型时代,直接被击穿了。
1.2 大模型请求的资源消耗差异大到离谱
大模型的处理方式和传统API完全不同。你给同一个模型发一个“你好”,和给它发一篇一万字的行业分析报告让它写总结,它消耗的计算资源能差出几百倍甚至上千倍。就是同一段输入,让模型生成一句话和一个写三千字长文,输出端的计算量差异也是量级上的。
如果在这种情况下还坚持按次计费,会出现什么情况?服务商的成本是波动的,但价格是固定的,要么服务商亏钱,要么用户为短请求多付钱。更重要的是,这种定价方式完全没有给用户提供“省成本”的杠杆——不管你能不能把提示词写得更精简,反正都是一次调用的钱,用户就完全没有打磨输入内容的动力。
所以词元计费的本质,是把定价从“按服务次数”变成“按实际消耗的计算量”。这个词元的数量,就相当于大模型工作量的度量单位——输入多少、输出多少,每一部分都按量计费。这就像电力行业从“包月”转向“按度”收费,看似只是计费方式变了,实际上是对真实成本的一次对齐。
1.3 词元钱是怎么算出来的
在展开后面所有内容之前,需要把词元的概念落到实处理解一下,否则后面所有关于成本结构的讨论都飘在空中。
词元是大模型处理文本的最小单位。它不是一个字,也不是一个完整的词,而是一个“被模型拆分出来的语义片段”。模型在处理你输入的文本时,会先把文本拆成一个个词元,再逐个处理。对于英文,一个单词通常会被拆成1到2个词元;对于中文,一个汉字大概对应1到2个词元;代码的话,一个常见关键字可能是一个词元,长变量名可能要拆成好几个。
同一个词元在不同模型里的“定价”是不一样的。这就是为什么不同大模型API的价格差异能到五倍十倍——它们背后用的模型大小、精度、推理优化程度都不同。但通常情况下,输出词元的价格都要比输入词元贵两到三倍甚至更多,后面会详细解释为什么。
这里有一个关键点可以提前说:正因为计费单位变成了词元,用户在提示词上的每一个字都变成了成本。这催生了一整套全新的工程技能——提示词压缩、上下文管理、缓存策略——这些都是旧成本结构下完全不存在的岗位和话题。
2. 词元计费为什么能成为行业事实标准,而不只是某家厂商的特色
2.1 算力消耗的物理现实:凭什么输出比输入贵这么多
要理解输出词元为什么贵,得从大模型的工作方式说起。模型生成文本是逐字逐词“蹦”出来的——它每生成一个词元,都要把前面所有的词元重新“过”一遍注意力计算,才能预测下一个词元是什么。这个过程的专业说法叫自回归生成。
打个比方,这就像一个人写长文,每写下一个字,都要把前面已经写完的部分从头再读一遍来理清思路。你写五百字,这不只是写五百个字的工作量,而是包含了循环回顾前面所有内容的计算量——越到后面,每写一个新词元背后的计算负担越大。
而输入端,虽然也要经过计算才能被模型理解,但这个过程是可以并行处理的。你输入一万个词元的文档,模型可以一次把这些内容都编码好。输出则不行,它只能一个词元接一个词元地生成,速度慢、消耗高。所以所有大模型厂商都不约而同地把输出定价抬到输入的三倍左右,这不是拍脑袋定的,是实际算力消耗的映射。
理解了这层,你就明白为什么有的公司把“输出长度”当成成本的第一杀手——同样一个任务,模型多啰嗦几句话,你的账单就可能翻倍。
2.2 词元计价的额外红利:价格可以随缓存策略精细拆分
词元计费还有一个容易被忽略的优势:它允许服务商做更精细的定价分层。
现在主流大模型API基本都有缓存计费——如果你的输入内容里有和过去请求重复的部分,厂商可以用更低的价格(通常是未命中的十分之一甚至更低)提供处理。这个机制只有在词元粒度下才能实现。要是按次收费,厂商根本没法区分“这个请求之前见过一部分”和“这个请求完全是新的”。
缓存机制对厂商来说是省了实打实的算力,对开发者来说是省了实打实的钱,这在旧成本结构下是一个根本不存在的东西。
2.3 对开发者来说,词元计价反而是更公平的
我知道很多开发者在刚切换到词元计费时很痛苦,觉得算预算难了。但如果说句公道话,词元计价对开发者反而是更可控的。
按次计费时代,你花一分钱买一次调用,但这次调用的质量、长度、速度都不受你控制。词元计费时代,你的每一分钱都能花在明处——输入多了就裁输入,输出长了就约束输出,一切都颗粒化地掌握在自己手里。一个优秀的工程师可以通过优化提示词,把成本降到原来的五分之一,这个降本空间在按次计费时代是根本不存在的。
只能说,词元计费把成本控制的责任从前台转移到了产品侧,谁更懂词元的消耗规律,谁就能在预算上占优势。
3. 新成本结构下,谁最难受,谁又悄悄沾了光
3.1 最难受的:按“点击”和“按次”做生意的老玩家
这个标题点出的问题在现实里很扎心:当整个行业的技术底座都换成了大模型,旧的按点击、按次计价的成本结构就面临一个尴尬的局面——它们服务的内容正在被词元计价的产品逐渐替代。
最典型的是那些按“次”卖AI能力的传统服务商。以前做文本审核,一次审核收几分钱,客户量大、价格稳定。但现在,如果用大模型做审核,成本结构完全变了:你给大模型一段长文本,让它判断有没有违规内容,这个请求的消耗可能比传统接口贵,也可能更便宜,但计价方式是完全不可预测的。旧的服务商没法简单地“照搬”定价,因为它们自己也摸不准新技术的成本。
更难受的还有按点击付费的商业模式。在传统的互联网广告里,“点击”是价值的度量单位——有人看了、有人点了,说明有注意力,有注意力就能接转化。但现在AI搜索、AI推荐、AI代理大量进场,很多点击根本不是人产生的——是AI在处理任务时自动触发的。当“点击”不再代表人,旧的按点击计费账本就算不清楚了。
3.2 沾光的:懂词元经济的开发者团队
另一边,那些提前看懂词元计价逻辑的团队,正在悄悄受益。
怎么说呢?按次计费时代,产品的成本是“线性的”——用户多用一次,你多付一次的钱,没有优化空间。词元计费时代,成本是非线性的——同样一个功能,你可以让模型输出三百字的详细答案,也可以让它输出三十字的一句话结论,成本差出十倍,但用户满意度可能只差一点。
这种非线性意味着精明的产品团队可以通过精心设计,提供差不多的体验,却花出别人五分之一的成本。这在竞争里是巨大的优势。就像两家做同样外卖业务的平台,一家对每笔订单的配送成本了如指掌,另一家只按“每单固定五块钱”估成本,当后者还有利润的时候,前者已经可以靠成本优势打价格战了。
3.3 中间层的尴尬:集成商和“翻译官”们
还有一类受冲击的是过去靠“对接API赚钱”的中间层。以前很多公司做AI项目的模式是:找一个传统AI服务商,买它的按次接口,然后在上面封装成行业解决方案卖给客户,靠差价和服务费赚钱。
现在这个模式被词元计费冲击得厉害——底层模型变成了大模型,接口按词元计价,中间层的技术门槛低了(因为大模型接口比传统AI接口好对接得多),同时价格透明了(词元单价公开,客户自己也能算)。中间层的利润空间被两头挤压。很多这类公司现在都在转型做提示词工程、模型选型咨询、成本优化服务——本质上是从“卖接口”变成“卖经验”,能不能转过来,就看对词元成本的理解深不深了。
4. 想在新计价体系里活下去,必须掌握的词元成本控制套路
我在好几个做AI产品的项目里泡过,踩过不少坑,也总结了一套在新成本结构下的实操控制方法。这里按优先级从高到低列出来。
4.1 先建立词元预算意识,再做功能设计
以前我的习惯是画原型图的时候顺手估一下交互的点击路径——用户要几步能完成一个任务。现在做AI产品,第一件事变成估词元消耗——用户完成这个任务,模型要读多少输入、生成多少输出。
具体怎么估?我的做法是先跑一个最小Demo,打印出每一个请求的词元耗用量。跑上几十次不同的输入,取个平均值,就大概知道了这个功能的“单次成本”。然后再用这个数字乘以预计的月活和人均使用次数,才是真正的预算盘子。
举个例子,一个客服助手,平均每次会话输入约800词元(用户问题200+历史上下文400+系统提示200),输出约300词元。假设输入单价是输出单价的1/3,那我们可以简单算一下:输入100万词元约等于某档价格A,输出100万词元约等于价格B的3倍量纲。综合下来,十万次会话大概烧掉你多少预算,一次就能毛估出来。不跑Demo直接拍脑袋定预算,十有八九会翻车。
4.2 提示词压缩:最容易出效果的成本优化
词元计费时代,提示词的每一个字都在烧钱。我之前做过一次优化,把一个系统提示词从1200字压到400字,功能完全没变,单次请求的输入词元直接砍掉近七成——因为剩下的部分有无意义的口语词、冗余的举例说明、重复的约束条款。
几个我亲测有效的压缩技巧:
- 去掉一切“礼貌用语”——“请你帮我”“如果可以的话”这类词在提示词里纯粹是浪费。
- 把长句改成短语,只要模型能理解意图就行,别按写作文的标准写提示词。
- 用指令模板替代冗长的规则描述——能一句话说清的要求,绝不用三条分点。
- 合并重复的约束。很多人一个提示词里同一个要求换着写法出现三次,模型不一定会因此更听话,词元倒是实打实多烧了。
输出端的压缩同样重要。给模型的指令里明确限定回答长度——“不超过50字”“用一段话回答”“不要列出编号”,都能有效压住输出词元。我的实测经验是,加上长度约束之后,输出词元能少三分之一到一半。
4.3 上下文管理:历史消息不是越多越好
对话类产品最容易踩的坑就是把全部历史消息一股脑塞给模型。用户聊了二十轮,你就把二十轮全文都作为上下文传进去,每一轮请求都要重复处理前面所有积累的文本。词元数量随着对话轮次线性上涨,但实际有用的上下文往往只有最后几轮。
优化方案有两种。一种是对历史做摘要——每聊几轮就把之前的对话浓缩成一个简短的摘要,新请求只把摘要和最近几轮消息传给模型。另一种是设置窗口,只保留最近N轮完整对话,更早的直接截断。
我见过一个团队做出聊天机器人,最初每轮请求平均消耗2000词元,做了摘要优化之后直接降到600词元,一个季度省下大几十万预算。这个优化不改变模型、不重写代码,只改上下文管理逻辑。
4.4 缓存策略:让重复的输入只付一次钱
前面提到过,主流大模型平台都有上下文缓存能力——如果请求的一部分内容和之前的请求相同,这部分输入按远低于正常价的价格计费。这个机制用好了,成本还能再降一个台阶。
典型场景是FAQ机器人。如果你把所有常见问题作为系统提示词的一部分预先处理过,缓存命中后,每个用户请求里那部分固定内容都享受折扣价。等于说所有用户共享同一段“免费”的知识库输入,只需要为每个用户个性化的部分单独计费。
具体操作上,需要先在平台侧开启缓存开关,然后把系统提示词设计成“稳定前缀+动态后缀”的结构——前缀是固定的知识库内容,后缀是每个用户的不同问题。只有前缀稳定,缓存才能命中。这又是词元计费时代催生的一个设计思路:怎么把提示词组织成利于缓存的形态。
4.5 小模型优先,再不行才上大模型
在词元计价体系里,不同档次的模型价格差距巨大。一个中小型模型的词元单价可能只有顶级模型的三分之一甚至更低,但很多任务的完成度其实差异不大。
我现在的选型逻辑很简单:先拿小模型跑同样的任务,用一套测试集对比输出质量。如果小模型的输出能覆盖九成以上的场景需求,就坚决用小的;只有涉及复杂推理、长文本生成、多步规划的场景才升级到大模型。
这样组合下来,整个项目的平均词元成本可以压到单一使用大模型的四成左右。实测效果和用户反馈的差异并不大,因为大多数用户任务是中等复杂度的,小模型足够胜任了。
4.6 建立监控告警:词元消耗也需要“看仪表盘”
最后一条是必要的底线保障:接的AI接口多了之后,一定要建词元消耗监控和预算告警。现在很多开发框架都支持请求级别的用量统计,把每次请求的输入词元、输出词元、缓存命中情况记录下来,按天/按功能聚合。
我踩过一次特别惨的坑:一个AI功能上线后没有监控,两周后看账单才发现某个接口出了一个Bug,导致用户请求反复重试,词元消耗是预期的八倍。如果有基础告警,第一天就能拦住,损失能控制在零头的零头。所以监控这事不是成本优化,是保命用的。
5. 词元之后,下一个计价单位又会是什么
写完上面这些,稍微把头抬起来想一想:词元计费会是终局吗?
我个人的判断是不会。词元是当前技术阶段的合理计价单位,但它本质上是“以算力消耗为中心”,而不是“以用户价值为中心”。一个高概率会出现的趋势是按“结果”计价——你让模型完成一件任务,它按任务的完成质量、复杂程度来收费,而不是按中间过程烧了多少词元来收费。
其实这个方向已经有苗头了。现在很多平台开始推“按任务计费”的Agent类产品——你交给AI代理一个任务,它自己决定要调用多少次模型、消耗多少词元,最终你只按任务结果付费。这种模式一旦跑通,对终端用户来说体验更好——不用理解词元是什么,也不用自己操心优化成本,按用到的价值付钱就行了。
对开发者和成本管理者来说,这意味着什么呢?一方面,词元计费的知识不会白学——任何新模式背后都需要有人懂真实算力成本,知道哪个环节贵、哪个环节便宜。另一方面,要准备好自己的成本优化能力从“优化词元消耗”向“优化任务交付率”迁移——从关注每百万词元单价,到关心每个任务完成的成功率和返工率。
还有一个可能的方向是订阅制与用量制的混合模型。就像现在很多软件的定价既有基础订阅费、又有超出部分的按量费一样,AI服务将来很可能是“基础套餐覆盖常规使用,突发部分单独按词元计费”。如果你是重度用户,订阅制会摊薄单次调用的成本;如果你是轻度用户,纯按量计费更划算。这种分层定价结构,会让词元计费延续更长时间。
至于会不会有比词元更细的计价单位?比如按“注意力计算量”或“推理时延”计费?短期来看不会——太细的计费粒度会增加用户的理解成本和平台的对账成本,词元已经细到了客户能感知、厂商能核算的平衡点。再往下拆,就不是商用逻辑,而是纯技术审计逻辑了。
就我个人体会而言,无论计价单位怎么变,最后受益的都是那些“懂成本结构”的人。我见过不少团队在按次计费时代活得很舒服,觉得成本不算什么大事,结果切换到词元计费后被第一张账单教育了一顿。反而是那些从一开始就坚持每次请求打印词元消耗、每周复盘成本的团队,在新旧计价体系切换时几乎无缝过渡,还顺手把成本优势变成了产品定价优势。
所以别纠结“哪种计费更划算”这种问题。真正值得花时间的是把一个AI项目的成本模型彻底摸透——知道输入算什么价、输出算什么价、缓存怎么命中、什么环节能压缩、什么场景该上小模型。这些事无论计价单位怎么变,放在哪个时代都是硬功夫。等下一个计价周期到来的时候,你手里已经有了应对变化的底气。