返回快訊

Epoch AI估算2027年存儲可同時運行數千萬前沿AI代理

Epoch AI估計,到2027年出貨的存儲芯片可同時運行約33至171百萬個前沿AI代理。

若這些代理全天候運行,其工作時長相當於140至720百萬名全職員工的周工作時長。該估算基於2025至2027年高帶寬內存(HBM)出貨量,將其轉換爲等效GPU數量後,結合不同模型的服務基準計算併發代理規模。

報告指出,使用更高效的開源模型時,同一硬件可支持數十億代理。以DeepSeek V4 Pro爲例,基準測算顯示約19億個併發代理,其全天候工作時長可匹配約80億人每週40小時的工作量。

Epoch AI以HBM作爲跨廠商統一衡量標準,因爲存儲已成爲AI芯片的主要瓶頸。估算假設硬件全部部署並專用於代理工作負載,實際部署延遲或其他用途會降低可運行數量。

報告同時分析需求缺口:即便按20%利用率保守估算,年支出也需達到2.6至5.3萬億美元,而按當前頭部實驗室收入增長路徑,到2027年底合計年化收入約1萬億美元,遠低於填滿產能所需。

AI基礎設施擴張中,存儲出貨決定可同時運行的代理上限,資金流向HBM與推理芯片供應商。受益方爲掌握存儲產能的廠商與高效模型提供方,承壓方爲依賴高價前沿模型且需求增長不足以消化產能的實驗室。

來源:公開信息

ABAB AI 解讀

Epoch AI長期追蹤AI訓練算力與芯片供應,此前已多次以HBM出貨作爲推理容量瓶頸指標,本次將同一方法延伸至代理併發規模測算,延續其以硬件供給倒推應用上限的路徑。

資本路徑上,估算依賴HBM出貨量轉化爲等效GPU,再按不同模型服務成本反推代理數量,資金集中流向存儲擴產與高效推理優化,而非單純增加GPU數量。

這與2024-2025年部分實驗室通過模型蒸餾與量化降低推理成本、從而在同等硬件上運行更多會話的案例類似,當前處於從訓練算力競爭轉向推理併發規模競爭的階段。

本質屬於技術替代下的定價權轉移:存儲供給決定代理併發上限,高效模型可在同等硬件上大幅提升代理數量,機制在於推理成本隨模型效率下降,使單位存儲可支撐的工作時長快速上升,進而改變人力工時與算力工時的相對定價。

ABAB News · 認知定律

  1. 存儲決定併發上限,模型效率決定工時倍數

  2. 全天候運行讓代理工時按4.2倍放大

  3. 產能擴張快於需求時,瓶頸從硬件轉向付費意願