☰
155 万亿 token 一天,一张卡每小时 38 美元
2026/10/27 12:15:33 网站建设 项目流程

📋 目录

  • 一、38 美元这个数字,原文到底说了什么
  • 二、155 万亿是怎么来的:它不是一个测量值
  • 三、三个数字连起来算,才知道 38 美元贵不贵
  • 四、把这笔账换算成行业规模
  • 五、钱会流向哪里:开源之后的三方账
  • 六、几个流传很广但我不引用的数字
  • 七、算完这笔账,能拿走的三个判断
  • 八、结语

一、38 美元这个数字,原文到底说了什么

先做一件基础工作:回到一手来源,把官方技术报告里的原话找出来。

DeepSeek 官方在技术报告里给的表述是:目前单一集群的服务吞吐是 155 万亿 tokens/天,单卡每小时收入为 38 美元(按谷价,约合人民币 253.77 元)。

这句话里有两个限定词,缺一不可:

第一个是"收入"(revenue),不是利润。官方说的是这张卡在低谷时段跑 API 产生的营业收入,不是扣除 GPU 折旧、电费、机房、网络、运维之后的净利。

第二个是"按谷价"。DeepSeek 的 API 实行峰谷分时定价:高峰时段为 UTC 01:00–04:00 和 06:00–10:00、周一至周五,其余时间(包括周末及法定节假日全天)均按空闲时段计价,空闲时段价格是高峰时段的一半。

这两个限定词在传播中被丢掉了多少?看几个流传版本:

流传版本实际含义问题
“一张卡每小时赚 38 美元”谷价时段的服务收入"赚"字暗示利润
“单卡月收入约 18.27 万元”38 美元 × 24 小时 × 30 天假设卡片满负荷、零空转
“回本周期 10 个月”把收入当净利去摊卡价收入减成本才是回本周期
“DeepSeek 单集群年营收 112 亿元”全部按高峰价测算的上限未考虑算力电力成本,非实际营收

同一个串数字,24 小时内被读成了收入、利润、回本周期三种东西。这是这次开源传播里最实在的一处失真。

二、155 万亿是怎么来的:它不是一个测量值

先把这个数字的性质说清楚。155 万亿 token/天不是实测出来的,是官方技术报告里的一组配置参数推算出来的。

官方给出的原始指标有两个:prefill 单卡 150 万输入 tokens/秒,decode 单卡 1.4 万输出 tokens/秒。一条推理请求分两段——先读(prefill,把提示词过一遍建缓存),再写(decode,一个字一个字吐出来)。两段速度差了一个数量级,所以线上服务要把 prefill 和 decode 拆开、用不同数量的卡分别伺候。

官方跑的基准配置是:prefill 用 4 张 SM100,decode 用 64 张,各自在一个 scale-up 域内。这个 P:D 配比接近 1:1,本质是用卡数差把两段速度差补回来。

把它折算成全集群产出:

155 万亿除以 86400 秒,约合每秒 17.9 亿 token。这个量级和上面那组配置是自洽的。

但必须补一句:这个推导成立的前提是96% 的前缀缓存命中率。没有这个命中率,prefill 那一段的有效吞吐会从 150 万掉到 6 万——官方明确给了这两个数,差 25 倍。

这就是为什么 96% 这个数字必须和 155 万亿、38 美元一起看。单拎出 155 万亿说"这吞吐太夸张了",等于把整道题的已知条件扔掉了。

三、三个数字连起来算,才知道 38 美元贵不贵

现在把这三个数字放进同一张表里推一遍。

DeepSeek-V4.1-Flash 当前的官方价目(每百万 token):

项目空闲时段高峰时段
输入(缓存命中)$0.003$0.006
输入(缓存未命中)$0.15$0.3
输出$0.6$1.2

有两条信息需要分开说。

第一条,美元价与人民币价对得上。官方美元口径的空闲时段输入(缓存命中)是 0.003 美元,而中文报道里广为流传的"每百万 Token 输入(缓存命中)在空闲时段收费 0.02 元",按 7 左右的汇率折算正好是 0.003 美元。两套口径一致,不是矛盾。

第二条,缓存命中与否差 50 倍。同一批 token,命中缓存是 0.003 美元,没命中是 0.15 美元,差 50 倍。这个差值意味着:在 96% 命中率下,100 万 token 的输入成本实际是 0.96×0.003 + 0.04×0.15 = 0.00888 美元;如果命中率掉到 80%,同样这批输入变成 0.8×0.003 + 0.2×0.15 = 0.0324 美元,涨了 3.6 倍。

这条曲线的斜率说明了一件事:缓存复用率是控制实际支出的关键旋钮,账面算力峰值反而是次要指标。

把它代回 38 美元。官方那个"单卡每小时 38 美元"是在谷价口径下算的,按当时的定价结构反推,隐含的是高缓存命中 + 高负载率这两个前提同时成立。

变量变化对单卡小时收入的影响
缓存命中率96% → 80%输入侧成本涨 3.6 倍,摊薄后单价上升
负载率满负荷 → 50%同样 token 需更多卡分摊,每卡收入减半
时段谷价 → 高峰价同样 token 收入翻倍
卡型号SM100 → 更贵的卡同吞吐需更多卡,每卡收入下降

所以 38 美元不是一个可以外推的常数。它是"谷价 + 高命中 + 高负载"三个条件同时成立时的快照。

顺带说一个中文报道里常见但没必要的延伸。中国基金报按 38 美元/卡/小时折算出一张卡 24 小时满负荷运行每天收入 6090.48 元、一个月约 18.27 万元。这个算术本身没错,问题在于它把三件事当成了永远成立:卡片满负荷不空转、价格永远是谷价、汇率和定价策略不动。

真实的 GPU 利用率长期在 25% 到 27% 这个区间。这是行业里流传的一个数字,同样没有一手审计,但方向上没有争议。把它代进去,"单卡月入 18 万"要打三折左右。

四、把这笔账换算成行业规模

《财经》做了一次更完整的测算,值得完整引用,因为它把两个口径都摆出来了。

按 DeepSeek 官方定价,全部按空闲时段计价:单集群日收入约 1535 万元,月均约 4.67 亿元,年化约 56 亿元。全部按高峰时段计价:分别约为 3069 万元、9.34 亿元和 112 亿元。

但这篇报道自己写得很清楚,这个计算有两个前提:未考虑 DeepSeek 的整体集群规模,也未考虑算力、电力等成本,也不代表 DeepSeek 实际实现的营收。

一位算力基础设施人士对《财经》的说法是:在高毛利率的支撑下,制约 DeepSeek 收入增长的只剩下算力规模。一位经常往返北京与乌兰察布的数据中心人士透露,DeepSeek 正在那里规划建设吉瓦(GW)级算力集群,目前仍租用国内两家大型 IDC 服务商的算力集群。

把这两组数字并排放,结论就浮出来了:

观察数字来源性质
单集群年化收入(谷价口径)约 56 亿元媒体按官方定价测算
单集群年化收入(高峰口径)约 112 亿元同上,上限
DeepSeek 投前估值约 5000 亿元媒体报道
最新一轮融资从计划 500 亿元增至约 1000 亿元媒体报道
集群规模吉瓦级(GW)规划中业内人士透露

**用 5000 亿估值对 56 亿年化收入,PS 差不多 90 倍。**这个比例明显不是靠 API 收入支撑的。

这解释了 DeepSeek 为什么要做一件在商业上看似"自割一刀"的事:把推理框架开源。框架开源不带来许可收入,但会带来部署惯性——默认权重是 DeepSeek-V4.1-Flash-1017,编解码组件 deepseek-recipe 只认 V4 与 V4.1,模型与框架互为入口。这是一种用工程文档换分发的方式。

也解释了另一件事:为什么这次开源最被质疑的不是技术,而是"你把自己的成本优势送给别人了"。业内有人把话说得很不客气:廉价客户是不存在的忠诚,把自己的全部技术公开,换来的只会是其他厂商再一次在性价比层面联合绞杀。

五、钱会流向哪里:开源之后的三方账

把 DeepSeek、第三方服务商、企业买方三方的账分开算,结论比"谁吃亏谁占便宜"要清楚。

DeepSeek 这一边。短期少赚的是 API 价差——如果第三方用 DeepInfer 把服务成本压下来,要么降价抢份额,要么保住价格让出利润。中长期多的是两件事:一是把推理工程能力变成生态标准,让所有用 DeepSeek 模型的人默认站在 DeepInfer 这一侧;二是用开源框架把硬件需求锚定在 SM100 与昇腾 950 上。

有业内人士的判断是这样:借助 DeepInfer,第三方服务商可以让同一批硬件处理更多请求,把运行同一款模型的成本降下来。这部分成本节省,既可能用于改善利润,也为降低 API 报价提供了空间。

第三方服务商这一边。短期冲击有限,因为缺三件套意味着自建仍然需要平台工程能力,云厂商和 Together、Fireworks 这类服务商的编排层没有被替代。但中期取决于补齐速度——如果 KV 缓存与 P/D 分离按 README 的暗示陆续开源,"下载即服务"的门槛会明显下降。

这里有一个值得警惕的信号。博通 CEO 在高盛的一次会议上摆出了一组当前语言模型的创收数据:从生成 Token 的数量来看,闭源模型和开源模型差不多各占 50%,两种模型在服务器上的推理成本也差不多,但闭源模型的年收入在 1200 亿美元左右,是开源模型 300 亿美元的 4 倍。

这组数据的含义不是"开源模型更赚钱",而是推理成本相近、收入差 4 倍。这 4 倍的差距来自模型能力溢价和定价能力,而一旦推理工程成为可复制的商品,这层溢价就会被持续压缩。

企业买方这一边。账最清楚。有个说法来自 HN 评论:如果 AI 输入账单能砍掉九成以上,企业会愿意为剩下的部分付安全溢价。这个判断成立与否,取决于 DeepInfer 到底是"能直接跑的框架",还是"需要自己补齐一半的框架"。

六、几个流传很广但我不引用的数字

按这个栏目的规矩,把查不到可确认口径的数字单独列出来。这一轮传播里有几条属于"看着精确、实则无法确认"的类型:

流传数字为什么不引用
“4 卡集群 10 个月回本 100 万美元”把 revenue 当 net profit,且假设满负荷无空转
“单集群年营收 112 亿元”是全部按高峰价测算的上限值,非实际营收(原文已注明)
“单卡月收入 18.27 万元”谷价 + 满负荷 + 汇率不变 + 定价不变的联合假设
“单集群吞吐超过 OpenRouter、Fireworks、Together、BaseTen 四家之和”是 AI 研究者 Nathan Lambert 的重构推算,不是任一方公布的实测对比
“GPU 行业实际利用率长期在 25%~27%”方向可信,但未查到一手审计出处,只能作量级参考
“FlashMLA 稀疏注意力达 410 TFLOPS”这是 DeepGEMM-Ascend 基准表里的数字,属于 9 月 30 日开源的算子项目,不是 DeepInfer 的引擎跑分

最后一条特别值得点出来。中文互联网在写这次开源时,普遍把 DeepGEMM-Ascend 的 99.8% 硬件利用率和 DeepInfer 的引擎能力捆在一起讲,读起来像是"DeepInfer 在昇腾上跑出了 99.8%"。这是两件事:一个是算子库在一种精度一种形状下的峰值占用率,一个是引擎的端到端服务能力。它们都在 DeepSeek 名下、都与昇腾 950 相关,但证据等级完全不同。

再补一组背景,说明这轮价格战不是 DeepSeek 单独发起的。10 月,Anthropic 把 Haiku 5.5 短请求的价格压到每百万输入 token 0.1 美元、输出 0.5 美元,分别只有 Haiku 4.5 的十分之一;9 月 22 日发布的 GPT-6 Luna,输入价格从上一代的 0.2 美元降到 0.1 美元,输出从 1.2 美元降到 0.5 美元。DeepSeek 开源推理框架,是把这轮竞争从"谁敢先降"变成了"谁能把成本压到让对手不得不降"。

还有一组数字值得对照:a16z 在 10 月发布的消费 AI 报告里提到,Claude 最高价的个人套餐 Max 用户占消费付费用户的 7.3%,Google 和 ChatGPT 百美元级高价套餐上占比分别只有 1.3% 和 1.1%。**愿意为高价付费的用户基础非常有限。**这既解释了为什么厂商要用低价产品冲量,也解释了为什么推理成本这件事对所有人都重要——当绝大多数用户都在用便宜那一档时,能不能把便宜那档的成本再压一压,比旗舰模型强不强更决定生意。

七、算完这笔账,能拿走的三个判断

把上面的数字收成能直接用的结论。

判断一:38 美元不能用来推算 API 价格该定多少。它是收入口径、谷价口径、单集群口径、高缓存命中口径的复合产物。用它做定价锚点,会系统性高估单位 token 的合理价格。

判断二:真正该盯的是缓存命中率,不是吞吐。96% → 80% 意味着同样输入贵 3.6 倍。而缓存能不能命中,取决于你的业务有没有"同一个前缀被反复请求"这个特征。有,就该自建;没有,官方 API 的价格结构对你更划算。

判断三:自建的门槛不在软件,在规模。DeepSeek 官方口径的最小高效部署单元是 64 卡 prefill 加 64 卡 decode,共 128 张 SM100 或昇腾 950。这不是中小团队能碰的量级。而且模型本身是 763B 参数、48 个 safetensors 分片约 510 GB,1-bit 量化仍需超过 128 GB 系统内存。

这三个判断的关系可以用一张图说清:

顺序反了,前三个问题就都白问。绝大多数讨论卡价的时候直接从"每百万 token 多少钱"跳到"谁更便宜",跳过了决定这串数字是否有意义的三个前提。

所以更现实的路径是:不在自己的机房里跑 V4.1-Flash,而是用 DeepInfer 里那几项调度思路去优化自己已有的推理部署。vLLM 的工程博客正好演示了这条路径的可行性——Wide-EP 配合 EPLB 把负载均衡度从 0.35 提到 0.94,仅 NIXL push 一项修复就把单 GPU 吞吐从 141K 提到 440K tokens/s。

对领码 SPARK 融合平台的映射

这套账算下来,落到企业数据平台上有三条对应关系。

其一,成本可见性要前置到调用链,而不是月底出账单。现在大多数企业是"月底看到账单才知道花了多少",但从上面的推导可知,缓存命中率掉 16 个百分点,同样负载的输入成本就涨 3.6 倍。这意味着问题往往不在"用得太多",而在"缓存没命中"。治理中心要能把"哪类请求前缀重复率高、哪类请求每次都是全新长 prompt"这个维度拉出来看,才能定位到真正该优化的位置。

其二,权限判定要跟着数据走。这条在推理层尤其硬——一旦某个 Agent 决定把一段内部文档送进自建推理侧,数据就出了原有的系统边界。传统权限长在应用系统边界上,抽数据那一步就丢了权限。领码的全域守卫要做的是把"谁在什么域能看什么"做成一张能查询的表,让推理侧部署在哪个域、调用哪份数据、产出流向哪里,都能被记下来、能被追。

其三,模型侧交给 Dify 一类编排层,数据侧留给平台。开源推理引擎不会让应用编排层消失——DeepInfer 自己就不含服务化层,编排、路由、缓存这三层要使用者自己写。这正好说明分工:编排层解决"业务逻辑怎么串成 Agent 调用链",数据平台解决"这些 Agent 拿到的数据是不是被授权的、干净的、能追溯的"。

一句话:推理框架可以换,成本结构必须能被看见,标准和授权不能靠换一个引擎顺带解决。

八、结语

这次开源传播里最值得记下来的,不是哪个数字最大,而是哪个数字最容易被读错。

155 万亿 token/天,是配置参数推算出来的量级,不是实测值;38 美元/卡·小时,是谷价时段的收入,不是利润;96% 缓存命中率,是让前两个数字成立的前提条件。

把这三个数放回各自的限定词里,你会发现整件事的量级并没有那么夸张——**一家把推理成本压到极致、让 API 定价低到地板的公司,把自己的成本结构公开了一部分。**这不是慈善,是分发策略,也是把行业价格重新锚定的动作。

真正该被追问的是下一个问题:当推理工程变成人人可复制的商品,闭源厂商那 1200 亿对 300 亿的收入差,会被压缩到什么程度?

你现在为模型 API 付费,是按"每百万 token 多少钱"在比价,还是按"缓存命中率 + 实际调用量"在算总账?如果给你一个能看清自己调用结构里前缀复用率的视图,你最想先看到哪一维的拆分?评论区说说,我按形态给你拆一下该看哪几个数。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询