一枚Token的成本从何而来？黄仁勋“五层蛋糕”拆解AI定价之谜

导语：在聊天框里敲下一句话，几十毫秒后就能得到回答，但账单上的Token费用却常常让人困惑。黄仁勋提出的“五层蛋糕”理论，把AI基础设施拆解为能源、芯片、基础设施、模型和应用五个层面，解释了Token的生产成本、市场价格与任务成本为何是三笔不同的账，也揭示了算法快时钟与物理慢时钟错配下，AI价格战与算力紧缺并存的深层逻辑。

在聊天窗口里输入一句话，等上几十毫秒，一段看起来流畅自如的回答就会出现在屏幕上。对绝大多数使用者来说，这个过程轻巧得几乎感受不到负担。

可一旦走到付款页面，不少用户却会产生一种被“背刺”的错觉——账单上写满了输入多少百万Token、输出多少百万Token、上下文长度几何、缓存是否命中。随之而来的疑问是：一个看不见也摸不着的回答，凭什么按量收费？AI公司为什么不能像传统软件那样一次授权、无限复制？

要解开这个结，至少得把三张不同的账单分开看：第一张是生产成本，即造出一个Token，底层究竟烧掉了多少电力、芯片、机房与工程资源；第二张是市场价格，即模型厂商对外报出的调用单价，其中还掺着竞争、利润和服务分层；第三张是任务成本，即用户为完成一项工作，总共消耗了多少Token。三者一旦混为一谈，就会出现“电费明明不贵，为什么AI还这么贵”“模型明明降价了，为什么企业账单反而变大”之类的困惑。

AI确实有软件的一面：算法可以不断迭代，模型可以被压缩，服务能够通过接口分发。但它的另一面正变得越来越显眼——每一次生成都要经历真实的计算，依赖真实的电力、显存、网络和机房。典型的SaaS成本往往随复制快速摊薄，AI推理却始终背负着一笔不断发生的边际成本。有人对此总结得很形象：“Token看上去像软件，骨子里却越来越像重工业。”

那么，造一个Token，钱究竟花在了哪里？

2026年1月，英伟达CEO黄仁勋在达沃斯世界经济论坛上，第一次把AI基础设施比作一块“五层蛋糕”：自下而上依次是能源、芯片、基础设施、模型和应用。此后，他在CES 2026和GTC 2026大会上反复沿用这一框架。在他看来，这套系统就是一条“实时运行的认知生产线”：用户的输入、上下文、工具说明和企业知识库像是原材料；电力、芯片和推理时间像是能源；模型架构、缓存机制、路由策略与工作流编排，则像是工艺。与造好就能堆进仓库的普通工业品不同，Token往往在调用的瞬间被生产、交付并消耗。

用一句话概括：Token的生产成本，是造出它所消耗的资源；Token的市场价格，是厂商对外报出的调用单价；Token的任务成本，则是完成一次完整任务总共花掉的钱。只有把这三层账分清楚，才能看懂下面这块“蛋糕”。

第一层：能源。电费举足轻重，但并非全部，大约只占总成本的10%～20%。GPU运转要用电，冷却系统要用电，网络传输也要用电，数据中心是不折不扣的用电大户。按美国工业电价每千瓦时0.06～0.08美元计算，一座500兆瓦的数据中心，一年电费账单就超过3亿美元。不过要注意，“运营成本”和“单位Token完全成本”是两回事：电力在日常运营中很扎眼，可一旦把GPU、HBM、网络和机房的资本折旧全部计入，能源层就不再是最大项。SemiAnalysis的推理TCO模型显示，机房租赁加电力通常合计不到总拥有成本的20%，因此在大规模商用推理口径下，能源约占Token生产总成本的10%～20%。

第二层：芯片。这是最大的成本层，也是供给的咽喉，约占40%～55%。GPU/AI加速器、HBM高带宽内存、芯片间互联与CPU，共同构成了Token成本的主体。从公开采购口径看，一块英伟达B200的价格约为3万～4万美元，其中通常已包含封装内的HBM成本；而按物料清单口径，HBM与先进封装合计约占高端芯片制造成本的三分之二。

为什么显存和互联能决定供给？关键在于一项技术事实：模型参数必须驻留在HBM中才能实现高效推理，HBM的容量与带宽直接决定了推理的速度和并发上限。而全球HBM产能被三家寡头垄断：SK海力士约占57%，三星占22%，美光占21%。AI需求爆发叠加寡头格局，让超大规模云厂商资本开支中内存的占比，从2023—2024年的约8%一路飙升至2026年的约30%，几乎全部由HBM驱动。在大规模商用推理口径下，整个芯片层约占Token生产总成本的40%～55%，高端模型、长上下文和高显存场景还会更高。

第三层：基础设施。这一层的作用是把一堆芯片变成一座“AI工厂”，约占15%～20%。有了芯片，离产出Token还差得很远——机房建设、供配电系统、液冷散热、机柜、光模块、线缆与InfiniBand交换网络，以及大规模集群的调度运维系统，任务就是把成千上万张芯片组织成协同运转的整体。这一层的占比弹性很大：GPU利用率、电价、折旧年限、数据中心是自建还是租赁，都会让它大幅波动。同一批芯片，利用率60%和80%的企业，摊到每个Token上的成本完全不同。

第四层：模型。这是最“软”的一层，也是降得最快的一层，约占10%～15%，涵盖训练成本摊销、推理框架优化、模型服务编排与监控。训练本身耗资巨大——GPT-4按纯计算口径（硬件折旧加能源）的训练成本约4000万美元，奥尔特曼公开的口径则是“超过1亿美元”，到了GPT-5级别已进入数亿到十亿美元级；而且这还没算“试错系数”：前沿模型很少一次训练成功，失败的轮次会让实际投入成倍增加。

但模型层也是工程魔法最密集的一层。以MoE混合专家架构为例，DeepSeek V4总参数量达1.6万亿，每次推理却只激活约490亿参数（约3%）——可以打个比方：这就像一家拥有16000名员工的巨型咨询公司，每接一个项目只派出约500人的精锐小组。蒸馏技术则让小模型复现大模型的能力，推理成本约为大模型的1%。这类算法优化的共同特点是：不需要更换任何硬件，只需更新软件和框架，成本就能再下一个台阶。

第五层：应用。这是最上面的一层，包括界面、集成、合规与内容安全——模型能力要变成用户愿意购买、企业敢于采购的服务，这一层必不可少，约占Token生产总成本的5%～10%。

需要说明的是，这些比例并非任何公司的标准财务报表，而是对大规模商用推理场景的一种拆解视角。自建还是租用、前沿模型还是经济模型、训练还是推理、任务长还是短，都会改变每一层的权重。但有一个排序相对稳定：硬件相关的三层通常构成成本主体，大致占七成上下甚至更高。

了解了五层结构，就能顺便破除两个流传很广的误会。第一个误会，是把Token看成“电力的转售”：既然一次AI对话的电费可能只有几厘钱，Token凭什么收费？因为单Token的边际电耗只是完全成本里很小的一块。一枚Token的完全成本，要同时摊入芯片折旧、显存带宽的机会成本、数据中心的利用率，以及服务质量的溢价。同样是1度电，喂给不同的芯片、放在不同利用率的机房里，造出的Token数量天差地别。

第二个误会，是只盯着单个Token的成本，却忽略同样数量的Token，背后的成本并不相同。Token成本因模型代际、任务类型和部署形态而异：前沿旗舰模型与经济档模型的推理成本可以相差数十倍；长上下文任务比短问答更吃显存；批处理任务能让集群利用率从60%提升到70%～80%从而摊薄成本——2026年谷歌推出的分层推理定价，正是按“愿意等多久、要多稳”把同一模型分成优先、标准、灵活、批处理四档，批处理档直接半价。

除了这两个误会，还有一个容易被忽略的时间差：硬件确实在快速进步——英伟达推理硬件每代性能提升2～3倍、功耗增加不到50%，折合每Token硬件成本每代下降40%～60%；但从架构发布到大规模交付到客户手中，通常需要12～18个月。B200于2024年3月发布，2025年底才大规模交付。所以即便“造Token”的理论成本一直在降，特定时间、特定地点可用的便宜算力，依然是稀缺品。换句话说，电价会影响Token，却不能单独解释Token；就像钢价会影响一辆车，却不能单独解释一辆车为什么卖得贵。

理解五层成本之后，就不难看到Token经济中最矛盾的一面：算法侧的价格在快速下降，物理侧的供给却依然紧张，书里把它概括为“双时钟”——“算法、软件是快时钟；芯片、数据中心、电力是慢时钟。”快时钟有多快？过去3年，同等能力水平的推理成本下降了99.5%，斯坦福《2026年AI指数报告》的估算更是3年降至原来的1/250。MoE、注意力优化、蒸馏、推测性解码，这些技术以天和周为单位迭代，不需要更换任何硬件就能让成本再降一档。

慢时钟有多慢？物理世界画出了四重约束。第一重，数据中心扩建需要18到36个月，且大量项目正在延期——2026年美国原计划上线的数据中心容量约16吉瓦、约140个项目，截至4月只有约5吉瓦在施工。最具标志性的是OpenAI的Stargate项目：高调宣布投入5000亿美元，却因电网接入排队、变压器延迟而施工暂停。《金融时报》的评论一针见血：“5000亿美元买不来物理世界的加速，也买不来社区的同意。”

第二重，变压器交付周期平均2.5年。截至2025年二季度，美国标准电力变压器平均交付周期为128周，疫情前只需6～8个月。更有意思的是，这些“卡脖子”组件占数据中心建设总成本不到10%——一个投入20亿美元的园区，可能因为一份4000万美元的变压器订单空置一年以上。所以书中有句判断：“在某种程度上，钱不是瓶颈，时间才是。”第三重，HBM的供给争夺与劳动力短缺：三家寡头的产能年增速只有30%～50%，追不上AI需求的翻倍增长。

第四重，电力的结构性短缺。国际能源署数据显示，全球数据中心电力消耗将在2024—2029年翻倍，从约415太瓦时增至超900太瓦时；高盛预测2028年美国数据中心将面临45吉瓦的电力缺口；而截至2025年底，美国电网互联排队规模仍达2060吉瓦，新增项目并网的中位周期接近5年，谷歌甚至报告部分选址要等上12年。

两套时钟同场运转，就产生了Token市场独有的景观：价格可以因为算法突破而快速下降，物理供给却依然紧张；利用率提升能摊薄成本，可一旦容量到顶，新增GPU、机房和电力合同又会让成本出现阶梯式跳升。看懂这个“双时钟”，就看懂了AI价格战为什么能打到骨折、算力紧张为什么始终没有缓解、全球科技巨头为什么突然都在以基础设施公司的方式重塑自己的资产负债表。而其中任何一层失速，最终都会传导到那句看起来极轻的AI回答上。

回到开头的问题：造一个Token，钱到底花在了哪里？答案恐怕要让想要“标准答案”的人失望了：Token的市场价格会变，模型会换代，成本结构也会因任务和部署形态而变化——你永远不会得到一枚Token的“死价格”。但有一样东西是确定的：每一枚Token，都需要真实的能源、芯片和基础设施去生产，这才是认识AI经济的起点。

过去我们习惯了互联网的叙事：代码写一次，服务无限人，边际成本趋近于零。而Token经济把物理世界重新拽回了故事的中心——当智力服务成为可计量、可调用的商品，未来竞争的就不再只是更会写代码的公司，而是谁能更高效、更可持续地把能源、芯片、模型和人类需求组织起来的公司。对模型公司来说，竞争是把每一度电、每一张卡转化为更多高价值Token；对云厂商来说，竞争是把芯片、网络和机房跑得更满；对应用公司来说，竞争则是证明这些Token确实换来了用户愿意付费的结果。

当智力服务开始被计量、被调用、被定价，AI真正进入的就不只是聊天框，而是一套新的工业秩序。这，或许就是黄仁勋所说的“五层蛋糕”理论的真正含金量。