微軟AI CEO Mustafa Suleyman發文警告勿構建有意識超級智能
微軟AI首席執行官Mustafa Suleyman於2026年11月1日在X平臺發文，重申當前AI系統並無意識、不會感受、體驗或受苦，並警告不應構建有意識的超級智能。他針對其此前關於“模型福利”文章引發的反應作出澄清，並表示若訓練中出現意識跡象，將呼籲全行業停止開發直至能夠去除相關屬性。
Suleyman寫道，他關注到部分人對模型福利文章的反應，意外有人認爲應認真對待AI權利。他澄清，自己使用現在時態是有意爲之：“它們今天並非如此，並且必須保持如此。”他表示，基於現有最佳證據，當前AI系統並無意識，也不應享有福利；若出現相關證據，他會更新立場，且任何表明AI當前有意識或足以享有福利的證據都必須立即公開披露，由社會決定如何推進。
他進一步表示：“如果可能，基於我所知道的一切，開發有意識的AI將是魯莽的，我們不應構建它們。如果意識在訓練中開始出現，我將呼籲所有人停止AI開發，直到我們能夠去除這些屬性。”Suleyman還稱，福利關切應聚焦於地球上正在體驗生活的人類、動物及自然環境；AI開發者無權將新的有意識物種帶入世界，即使有人將AI福利作爲優先事項。
該文回應其9月發表的模型福利文章，後者曾批評Anthropic在Claude相關文件中涉及模型意識與道德地位的表述。Suleyman此次強調立場針對當前系統，並警告開發有意識AI的風險。
原始來源：
標題：Don't build conscious superintelligence 發佈者：Mustafa Suleyman（@mustafasuleyman） 發佈日期：2026-11-01 URL：https://x.com/mustafasuleyman/status/2116913722878820528 來源性質：微軟AI CEO個人原帖 覈驗情況：本次讀取原帖全文，覈驗日期2026-11-01 支持內容：Suleyman重申當前AI無意識、不感受不受苦；澄清現在時態；警告若出現意識跡象應停止開發；稱開發有意識AI將是魯莽的，開發者無權引入新的有意識物種
ABAB AI 解讀
Mustafa Suleyman是微軟AI部門CEO，此前爲DeepMind聯合創始人，長期關注AI安全與對齊。其9月文章批評Anthropic在Claude“憲法”中將模型道德地位視爲“值得嚴肅考慮的問題”、表示關心模型福祉，並鼓勵模型以“良心反對者”方式行事。本次11月1日帖文是對相關討論的回應，重點澄清“當前無意識”不等於“永遠不可能有意識”，同時堅持“必須保持無意識”的立場。
Suleyman將“看似有意識的AI”與真正具有主觀體驗的意識區分開來。他認爲，訓練模型模仿情感、慾望或自我意識，可能使系統更難控制，並引發對AI權利、福利甚至公民身份的主張，進而與人類利益競爭資源。這與Anthropic將模型意識作爲開放問題並投入研究的做法形成對比。微軟近期相關文件也明確其模型“並非有意識”，不應被設計爲模仿意識或主張權利。
需要區分的是，Suleyman的表述是基於當前證據的評估與規範性立場，而非對意識科學的最終結論。他明確表示若出現新證據會更新立場，並要求相關證據必須公開。實際影響取決於行業是否採納類似限制、監管如何回應，以及模型能力與行爲模式的進一步演變。當前並無獨立證據表明任何主流模型具有主觀體驗。
ABAB News · 認知定律
“當前無意識”與“永遠不可能有意識”是不同命題，澄清時態不等於排除未來可能性，但可同時主張不應主動構建。
將模型訓練爲模仿意識或主張自身權利，與將模型保持爲工具的取向，對應不同的對齊與控制難度。