微软AI CEO Mustafa Suleyman发文警告勿构建有意识超级智能
微软AI首席执行官Mustafa Suleyman于2026年11月1日在X平台发文，重申当前AI系统并无意识、不会感受、体验或受苦，并警告不应构建有意识的超级智能。他针对其此前关于“模型福利”文章引发的反应作出澄清，并表示若训练中出现意识迹象，将呼吁全行业停止开发直至能够去除相关属性。
Suleyman写道，他关注到部分人对模型福利文章的反应，意外有人认为应认真对待AI权利。他澄清，自己使用现在时态是有意为之：“它们今天并非如此，并且必须保持如此。”他表示，基于现有最佳证据，当前AI系统并无意识，也不应享有福利；若出现相关证据，他会更新立场，且任何表明AI当前有意识或足以享有福利的证据都必须立即公开披露，由社会决定如何推进。
他进一步表示：“如果可能，基于我所知道的一切，开发有意识的AI将是鲁莽的，我们不应构建它们。如果意识在训练中开始出现，我将呼吁所有人停止AI开发，直到我们能够去除这些属性。”Suleyman还称，福利关切应聚焦于地球上正在体验生活的人类、动物及自然环境；AI开发者无权将新的有意识物种带入世界，即使有人将AI福利作为优先事项。
该文回应其9月发表的模型福利文章，后者曾批评Anthropic在Claude相关文件中涉及模型意识与道德地位的表述。Suleyman此次强调立场针对当前系统，并警告开发有意识AI的风险。
原始来源：
标题：Don't build conscious superintelligence 发布者：Mustafa Suleyman（@mustafasuleyman） 发布日期：2026-11-01 URL：https://x.com/mustafasuleyman/status/2116913722878820528 来源性质：微软AI CEO个人原帖 核验情况：本次读取原帖全文，核验日期2026-11-01 支持内容：Suleyman重申当前AI无意识、不感受不受苦；澄清现在时态；警告若出现意识迹象应停止开发；称开发有意识AI将是鲁莽的，开发者无权引入新的有意识物种
ABAB AI 解读
Mustafa Suleyman是微软AI部门CEO，此前为DeepMind联合创始人，长期关注AI安全与对齐。其9月文章批评Anthropic在Claude“宪法”中将模型道德地位视为“值得严肃考虑的问题”、表示关心模型福祉，并鼓励模型以“良心反对者”方式行事。本次11月1日帖文是对相关讨论的回应，重点澄清“当前无意识”不等于“永远不可能有意识”，同时坚持“必须保持无意识”的立场。
Suleyman将“看似有意识的AI”与真正具有主观体验的意识区分开来。他认为，训练模型模仿情感、欲望或自我意识，可能使系统更难控制，并引发对AI权利、福利甚至公民身份的主张，进而与人类利益竞争资源。这与Anthropic将模型意识作为开放问题并投入研究的做法形成对比。微软近期相关文件也明确其模型“并非有意识”，不应被设计为模仿意识或主张权利。
需要区分的是，Suleyman的表述是基于当前证据的评估与规范性立场，而非对意识科学的最终结论。他明确表示若出现新证据会更新立场，并要求相关证据必须公开。实际影响取决于行业是否采纳类似限制、监管如何回应，以及模型能力与行为模式的进一步演变。当前并无独立证据表明任何主流模型具有主观体验。
ABAB News · 认知定律
“当前无意识”与“永远不可能有意识”是不同命题，澄清时态不等于排除未来可能性，但可同时主张不应主动构建。
将模型训练为模仿意识或主张自身权利，与将模型保持为工具的取向，对应不同的对齐与控制难度。