返回快讯

Menlo Ventures合伙人Deedy称推理服务商快速达月收入100万美元

Menlo Ventures合伙人Deedy(@deedydas)于2026年10月25日在X发帖表示,当前出现大量推理服务商,部分可在极短时间内达到每月100万美元收入。他描述的经济模型为:即使以每GPU小时8美元的价格按需租用B300,部署GLM 5.3、Kimi K3、DeepSeek 4.1 Flash/Pro等开源模型,在合理吞吐(100 tok/s)下,每GPU小时可产生超过10-20美元的Token收入;DeepSeek的DeepInfer显示,在非高峰时段可达每GPU小时38美元。

Deedy表示,毛利率取决于利用率和技术栈效率。OpenRouter、Vercel等网关可聚合需求。他称部分服务商会折扣Token以换取长期承诺,并听到有将中国模型Token卖回中国实验室的案例。部分中国开源模型实验室对达到一定规模的服务商要求收入分成,尤其是预发布访问权限,这提高了盈利门槛。

他观察到进入门槛降低,有小团队通过“vibe code”在租用集群上部署开源模型。几乎每周出现数十家此类公司,收入快速增长但毛利率偏低,并据此融资。由于服务趋于商品化,这推高计算价格并压低Token价格。理论上,拥有最低计算成本的neocloud(如Crusoe、CoreWeave、Nebius、GMI)及其推理业务可能在价格战中占优,规模较大者(Modal、Fireworks、Baseten)次之;但实际市场规模增长迅速,新进入者(如inference.net、DeepInfra、Wafer、Relace、Morph)也在快速增长。

Deedy列出的风险包括:开源模型是否继续保持竞争力、其创建者是否进一步寻求租金、模型形态是否改变计算需求、不同芯片如何影响经济性,以及供应紧张时谁能获得计算资源。他附有不同模型/芯片组合下毛利率随利用率变化的示意图,并总结称当前许多推理服务商均在快速增长。

原始来源:

  1. 标题:Deedy关于推理服务商经济性的帖文 发布者:Deedy(@deedydas),Menlo Ventures合伙人 发布日期:2026-10-25 URL:https://x.com/deedydas(相关帖) 来源性质:个人原帖 核验情况:本次实际读取,核验日期2026-10-26 支持内容:上述经济估算、公司名称、观察及风险列表均来自该帖文;数字为Deedy提供的估算或引用,未独立审计

ABAB AI 解读

Deedy将推理服务描述为在GPU租赁价格与Token售价之间存在套利空间的业务。其测算基于特定芯片租金、模型吞吐与Token定价假设,毛利率随利用率变化。该描述将服务定位为商品化业务,进入门槛因开源模型与网关聚合需求而降低。

帖文指出,中国模型实验室对规模化服务商要求收入分成,增加了成本。同时,neocloud与推理公司之间存在业务交叉:前者进入推理,后者寻求更高利润的预留实例或后训练。Deedy认为市场规模快速增长使新进入者仍能获得收入,但长期价格战中成本较低者可能占优。

该分析属于个人观察与估算,未附带独立财务数据或完整市场统计。示意图为“aggressive sketch”,未提供底层数据来源。风险因素(开源模型竞争力、租金寻求、芯片变化、供应分配)均以问句形式列出,未给出确定性结论。

观察指标是后续公开披露中,推理服务商的实际利用率、毛利率变化,以及neocloud与独立推理公司在计算承诺与Token定价上的调整。

ABAB News · 认知定律

  1. 开源模型推理服务的毛利率取决于GPU租赁成本与Token收入的差额,以及实际利用率。

  2. 服务商品化时,网关聚合需求可降低获客成本,但同时加速价格竞争。

  3. neocloud进入推理与推理公司寻求预留计算,反映双方在成本与需求两端的交叉扩张。