返回快讯

Thinking Machines发布Inkling-Small模型,此版本可单节点运行,能感知语调与情绪

Thinking Machines发布Inkling-Small:总参数276B、活跃参数12B,速度更快,多项基准匹配或超越其975B大兄弟。

团队将其接入语音到语音系统,音频直接输入模型并用faster-Qwen3TTS回复,在8块RTX Pro 6000 Blackwell上延迟低于500毫秒。

普通Inkling需2TB显存,此版本可单节点运行,能感知语调与情绪。

来源:公开信息

ABAB AI 解读

Thinking Machines由前OpenAI CTO Mira Murati创立,此前已开源Inkling大模型,此次推出更轻量变体以兼顾性能与部署成本。

资本路径上,开源权重降低推理门槛,吸引开发者在单节点或消费级集群上实验多模态代理,加速从实验室到实际应用的转化。

类似DeepSeek与其他MoE小活跃参数模型的路径,当前开源前沿正处在“大总参数+小活跃”效率优化阶段。

本质属于技术替代,更小活跃参数在保持能力的同时大幅降低硬件门槛,推动物理与语音代理的普及。

ABAB News · 认知定律

  1. 活跃参数决定真实部署成本

  2. 小模型匹配大模型是效率胜利

  3. 语调感知让交互从文字走向情感