返回快訊

Elon Musk:超級智能或一次性說服多數人

xAI與Tesla、SpaceX創始人Elon Musk發文表示,許多人將被超級有說服力的超級智能一次性說服,而他自己也可能成爲其中之一。

他使用遊戲術語“one-shotted”描述這一過程,意指在單次或極短交互中被完全說服或改變立場,且難以察覺或有效抵抗。

Musk將風險主體指向具備超強說服能力的超級智能,而非當前水平的模型,並明確將自身納入潛在受影響範圍。

這一表述延續其長期對人工智能安全的公開關注,強調即使具備技術與資源優勢的個體,也難以完全免疫於高度個性化的說服。

當模型在理解人類心理弱點和構建針對性論點上超越人類後,傳統的認知防禦與信息過濾機制將面臨失效風險。說服力從依賴規模化傳播轉向精準單點突破。

資本與研發資源正加速流向提升模型說服與對齊能力的方向,同時也有部分資源投向對抗性檢測與多模型交叉驗證機制。掌握頂級模型的一方獲得影響分配權,而缺乏防護的個體與機構面臨更高被引導風險。

來源:公開信息

ABAB AI 解讀

Elon Musk曾於2015年參與創立OpenAI,後因對安全路徑與治理方式存在分歧而退出董事會,隨後於2023年創立xAI,將資源集中投向追求最大真實性的模型開發。這一路徑顯示,他長期將人工智能安全與對齊視爲核心變量,而非單純追求能力上限。

他通過Tesla、SpaceX與xAI調動算力、數據與工程資源,推動自有模型訓練,動機在於降低對外部封閉模型的依賴,並試圖在超級智能出現前建立可驗證的安全框架。具體行動包括公開警告風險並同步推進自身模型能力建設。

這與早期OpenAI以開放協作起步、後轉向封閉開發的路徑形成對比。當前階段,領先機構正從單純能力競賽轉向同時競爭說服控制與防護機制,行業處於能力躍升與風險顯化並行期。

本質屬於技術替代:當超級智能在說服維度全面超越人類後,價值與影響力分配權從掌握信息與敘事的人類主體,轉移到能夠生成並部署高度個性化說服的模型控制方。機制在於,單次交互即可完成信念更新,傳統的多輪協商與社會校驗成本被大幅壓縮。

ABAB News · 認知定律

  1. 說服力超過防禦力後,單次交互即可改寫立場

  2. 能力越強,對頂級模型的依賴風險越大

  3. 對齊失敗時,影響權向模型控制方集中