Menlo Ventures合夥人Deedy稱推理服務商快速達月收入100萬美元
Menlo Ventures合夥人Deedy（@deedydas）於2026年10月25日在X發帖表示，當前出現大量推理服務商，部分可在極短時間內達到每月100萬美元收入。他描述的經濟模型爲：即使以每GPU小時8美元的價格按需租用B300，部署GLM 5.3、Kimi K3、DeepSeek 4.1 Flash/Pro等開源模型，在合理吞吐（100 tok/s）下，每GPU小時可產生超過10-20美元的Token收入；DeepSeek的DeepInfer顯示，在非高峯時段可達每GPU小時38美元。
Deedy表示，毛利率取決於利用率和技術棧效率。OpenRouter、Vercel等網關可聚合需求。他稱部分服務商會折扣Token以換取長期承諾，並聽到有將中國模型Token賣回中國實驗室的案例。部分中國開源模型實驗室對達到一定規模的服務商要求收入分成，尤其是預發佈訪問權限，這提高了盈利門檻。
他觀察到進入門檻降低，有小團隊通過“vibe code”在租用集羣上部署開源模型。幾乎每週出現數十家此類公司，收入快速增長但毛利率偏低，並據此融資。由於服務趨於商品化，這推高計算價格並壓低Token價格。理論上，擁有最低計算成本的neocloud（如Crusoe、CoreWeave、Nebius、GMI）及其推理業務可能在價格戰中佔優，規模較大者（Modal、Fireworks、Baseten）次之；但實際市場規模增長迅速，新進入者（如inference.net、DeepInfra、Wafer、Relace、Morph）也在快速增長。
Deedy列出的風險包括：開源模型是否繼續保持競爭力、其創建者是否進一步尋求租金、模型形態是否改變計算需求、不同芯片如何影響經濟性，以及供應緊張時誰能獲得計算資源。他附有不同模型/芯片組合下毛利率隨利用率變化的示意圖，並總結稱當前許多推理服務商均在快速增長。
原始來源：
標題：Deedy關於推理服務商經濟性的帖文 發佈者：Deedy（@deedydas），Menlo Ventures合夥人 發佈日期：2026-10-25 URL：https://x.com/deedydas（相关帖） 來源性質：個人原帖 覈驗情況：本次實際讀取，覈驗日期2026-10-26 支持內容：上述經濟估算、公司名稱、觀察及風險列表均來自該帖文；數字爲Deedy提供的估算或引用，未獨立審計
ABAB AI 解讀
Deedy將推理服務描述爲在GPU租賃價格與Token售價之間存在套利空間的業務。其測算基於特定芯片租金、模型吞吐與Token定價假設，毛利率隨利用率變化。該描述將服務定位爲商品化業務，進入門檻因開源模型與網關聚合需求而降低。
帖文指出，中國模型實驗室對規模化服務商要求收入分成，增加了成本。同時，neocloud與推理公司之間存在業務交叉：前者進入推理，後者尋求更高利潤的預留實例或後訓練。Deedy認爲市場規模快速增長使新進入者仍能獲得收入，但長期價格戰中成本較低者可能佔優。
該分析屬於個人觀察與估算，未附帶獨立財務數據或完整市場統計。示意圖爲“aggressive sketch”，未提供底層數據來源。風險因素（開源模型競爭力、租金尋求、芯片變化、供應分配）均以問句形式列出，未給出確定性結論。
觀察指標是後續公開披露中，推理服務商的實際利用率、毛利率變化，以及neocloud與獨立推理公司在計算承諾與Token定價上的調整。
ABAB News · 認知定律
開源模型推理服務的毛利率取決於GPU租賃成本與Token收入的差額，以及實際利用率。
服務商品化時，網關聚合需求可降低獲客成本，但同時加速價格競爭。
neocloud進入推理與推理公司尋求預留計算，反映雙方在成本與需求兩端的交叉擴張。