Y Combinator创始人Paul Graham:人工智能按token计费,但token不是推理的计量单位
Y Combinator创始人Paul Graham发文称,人工智能按token计费,但token不是推理的计量单位,因为模型变强后,同样代币能解决更多问题。他提出应定义新单位,方法是用一串难度递增的题目,每一对都能被同一代模型解出,以此标定“一单位推理”。
计费现状是输入输出按百万token报价,简单问答与长链推理共用价目。测试时计算把思考时间拉长,同一任务可消耗数倍代币,价签却仍写在字符上。业内已有买方按“完成一单”核算:标价相同的模型,因重试与啰嗦,实际关单成本可差三倍以上。应用层投资者也在劝产品公司不要把模型层的代币逻辑带进应用层,能度量结果就按结果收费。
Mridul Singhai并不买账。他认为模型变强,部分来自使用过程中生成的训练数据;把这些数据蒸馏、打包成捷径再卖给后来者,好处已经落在模型公司账上。按他的逻辑,token降价与能力上升不是用户单方面赚到的效率,而是用户对话正在补贴下一版权重。单位若只量“解题密度”,会漏掉数据回流这条暗线。
Graham的尺子接近基准阶梯:相邻两道题刚好被同一代模型跨过,代际跃迁就写成可比较的推理量子。难题在于题目会泄漏进训练,阶梯被爬过一次就贬值;用户提示质量也改变每token产出,单位很难从人的技巧里剥离。成本单位仍是瓦特与代币,收益单位是任务;两者错位,才出现“越强越便宜却越贵”的账单争议。
没有交易所为这种单位报价,也没有监管指定计量标准。讨论发生在按代币卖API、按座卖套件、按结果卖工作流同时存在的阶段。谁先让采购部门看懂“每单位推理”,谁就有机会改写预算科目。
市场机制上,买方是要可预测账单的企业采购,卖方是把能力进步藏进同一价目表的模型公司。这是计量标准之争,不是单日行情。资金继续按token流入推理集群;受益方是能用同一代币做出更难题目、并把用户轨迹写回权重的实验室,承压方是按token对账却按任务交付的应用公司,以及发现自己的对话正在训练下一版对手的用户。
来源:公开信息
ABAB AI 解读
Graham在Y Combinator时期把创业指标从虚荣数字改成可验证进度,这次把同一习惯用到推理账单。代币是电表,不是智商。他要的阶梯很像高考年年换卷:必须有相邻难度,才能说某一代模型值几个单位。实验室已经用竞赛题和代理基准做内部换算,缺的是买方也认的公开尺子。没有尺子,降价新闻与涨能力新闻就无法对账。
资本路径是把测试时计算卖成更长的思维链,收入按代币增长,成本按卡时增长。用户轨迹进蒸馏集,等于把账单的一部分变成训练补贴。Singhai点破的是双边市场:你付钱买这一次解答,同时免费提供下一次权重的原料。单位若只量解题,模型公司就独占数据红利;单位若量数据贡献,API合约就得改成分成。现在没有后一种合同。
类比不是电价改革,而是早期云计算从按小时虚机改成按请求、再改成按完成的工作单元。OpenAI、Anthropic、Google仍在价目表上写代币,是因为代币可审计、题目不可审计。行业处在计量权争夺:谁定义单位,谁定义利润率。应用层若按结果收费,就必须自己吃掉代币波动,等于做市商。
结构判断属于定价权转移。机制是:能力进步让每代币的使用价值上升,价目表若不动,利润流向权重所有者;用户数据若再进训练,使用价值的增量又被回收一次。账单单位不改,买方永远按旧尺子付钱,卖方按新能力收款。
ABAB News · 认知定律
计费单位不是价值单位,差额就是利润。
你付的是这一次解答,补贴的是下一版权重。
谁定义计量单位,谁就定义利润率。