Thinking Machines發佈Inkling-Small模型,此版本可單節點運行,能感知語調與情緒
Thinking Machines發佈Inkling-Small:總參數276B、活躍參數12B,速度更快,多項基準匹配或超越其975B大兄弟。
團隊將其接入語音到語音系統,音頻直接輸入模型並用faster-Qwen3TTS回覆,在8塊RTX Pro 6000 Blackwell上延遲低於500毫秒。
普通Inkling需2TB顯存,此版本可單節點運行,能感知語調與情緒。
來源:公開信息
ABAB AI 解讀
Thinking Machines由前OpenAI CTO Mira Murati創立,此前已開源Inkling大模型,此次推出更輕量變體以兼顧性能與部署成本。
資本路徑上,開源權重降低推理門檻,吸引開發者在單節點或消費級集羣上實驗多模態代理,加速從實驗室到實際應用的轉化。
類似DeepSeek與其他MoE小活躍參數模型的路徑,當前開源前沿正處在“大總參數+小活躍”效率優化階段。
本質屬於技術替代,更小活躍參數在保持能力的同時大幅降低硬件門檻,推動物理與語音代理的普及。
ABAB News · 認知定律
活躍參數決定真實部署成本
小模型匹配大模型是效率勝利
語調感知讓交互從文字走向情感