Thinking Machines发布Inkling-Small模型,此版本可单节点运行,能感知语调与情绪
Thinking Machines发布Inkling-Small:总参数276B、活跃参数12B,速度更快,多项基准匹配或超越其975B大兄弟。
团队将其接入语音到语音系统,音频直接输入模型并用faster-Qwen3TTS回复,在8块RTX Pro 6000 Blackwell上延迟低于500毫秒。
普通Inkling需2TB显存,此版本可单节点运行,能感知语调与情绪。
来源:公开信息
ABAB AI 解读
Thinking Machines由前OpenAI CTO Mira Murati创立,此前已开源Inkling大模型,此次推出更轻量变体以兼顾性能与部署成本。
资本路径上,开源权重降低推理门槛,吸引开发者在单节点或消费级集群上实验多模态代理,加速从实验室到实际应用的转化。
类似DeepSeek与其他MoE小活跃参数模型的路径,当前开源前沿正处在“大总参数+小活跃”效率优化阶段。
本质属于技术替代,更小活跃参数在保持能力的同时大幅降低硬件门槛,推动物理与语音代理的普及。
ABAB News · 认知定律
活跃参数决定真实部署成本
小模型匹配大模型是效率胜利
语调感知让交互从文字走向情感