Sapient Intelligence開源1B參數HRM-Text模型,訓練成本約1472美元
Sapient Intelligence開源10億參數文本生成基礎模型HRM-Text,基於層級推理模型(HRM)架構,通過底層引入潛在空間推理,將預訓練算力消耗降低130至600倍。
該模型僅使用400億結構化Token完成預訓練,數據量僅爲同級別常規模型的千分之一。1B版本用兩臺8卡H100服務器約46小時訓完,成本約1472美元;0.6B版本單節點50小時,成本約800美元。
市場中開源模型開發者與中小團隊加速採用低成本預訓練方案,Sapient Intelligence通過HRM架構打破算力壁壘,獨立研究者與初創團隊受益而依賴鉅額算力的大模型實驗室短期承壓,資金加速向高效新型架構與低門檻訓練框架集中。
來源:公開信息
ABAB AI 解讀
Sapient Intelligence此前專注於層級推理架構探索,此次HRM-Text是其首個開源基礎模型,延續通過Dual-timescale recurrent(快慢雙時間尺度循環)設計突破傳統Transformer單尺度限制的路徑,此前類似分層/循環架構多停留在理論階段。
資本路徑上,團隊將核心創新聚焦於架構層面而非單純堆算力與數據,通過開源完整工程框架(數據提取、序列打包、PyTorch分佈式)吸引社區貢獻,動機在於用極低成本驗證過去被擱置的模型理論,同時快速積累真實使用反饋與生態,形成從架構創新到社區共建的輕量級研發循環。
類似Mistral早期以高效架構切入開源市場,以及DeepSeek等通過架構優化實現降本,Sapient Intelligence當前將HRM置於基礎模型從“堆規模”向“架構躍遷”轉型的領先位置,推動行業從數據+算力軍備競賽向智能架構創新階段演進。
結構判斷:本質屬於技術替代。HRM通過快慢雙Transformer模塊交替迭代與狀態相加,在固定參數量下動態擴展計算深度,將預訓練從海量數據+算力驅動替代爲高效結構化推理驅動,機制在於潛在空間與雙時間尺度設計大幅提升信息利用效率,迫使模型研發價值從資本密集型向架構創新型集中。
ABAB News · 認知定律
架構越聰明,算力越廉價。
數據千分之一,效果百倍驗證。
過去被算力埋葬的理論,終將被架構救活。