Nate Soares：十年未繳401(k)，因認爲AI或在十年內滅絕人類

ABAB AI 解讀

Nate Soares自2014年離開Google加入MIRI後，長期專注AI對齊與存在性風險研究。MIRI由Eliezer Yudkowsky創立，早期以技術研究爲主，後轉向公開警告與政策倡導。Soares與Yudkowsky在2025年出版的《If Anyone Builds It, Everyone Dies》中系統論證：當前通過大規模訓練“生長”而非精確編寫的AI系統，其內部目標不可完全理解，一旦達到超級智能便可能產生與人類生存衝突的工具性目標。這一立場可追溯至Soares在2013-2014年間接受AI存在性風險觀點，並放棄高薪工程崗位轉向非營利研究。

此次財務決策並非短期情緒反應，而是長達十年的持續選擇。Soares保留Google時期的401(k)賬戶但不追加供款，將其個人現金流配置從長期退休儲蓄轉向當下行動。這與MIRI作爲非營利機構的運作模式一致：資源主要用於研究、公開倡導與政策影響，而非追求商業回報。與此同時，AI產業資本正大規模流向能力競賽——訓練算力、數據中心與人才——形成“能力優先、對齊滯後”的路徑。Soares的選擇等於用個人資產配置公開表達其對這一路徑風險的定價。

對比之下，Geoffrey Hinton將AI在十年內導致人類滅絕的概率估計在約10%左右，Anthropic相關研究者Evan Hubinger也給出類似或略高的個位數至低雙位數估計。Elon Musk則從另一方向認爲AI與機器人將帶來物質豐裕，使傳統退休儲蓄在10-20年內變得“無關緊要”。Soares的>50%估計顯著高於這些公開數字，且通過停止供款將概率判斷轉化爲可觀察的行爲。這一差異的關鍵不在於對“AI會變強”的共識，而在於對“當前訓練方法能否在超級智能前完成可靠對齊”的判斷——Soares與Yudkowsky認爲現有方法下失敗是默認結果。

個人財務行爲本身不構成概率證明，但它揭示了一個機制：當研究者將自身長期消費與風險判斷綁定後，其警告的可信度與可證僞性同時上升。若未來十年內超級智能未出現或被有效控制，Soares的賬戶選擇將持續產生機會成本；若出現失控，則該選擇失去意義。這一自我綁定使MIRI的公開立場從純理論主張轉化爲可被外部觀察的承諾，也凸顯產業資本路徑與個人風險定價之間的張力——前者按季度或年度回報優化，後者按人類存續概率優化。觀察指標在於：主要實驗室是否在未來數年實質放緩通用智能訓練、或政府是否啓動類似核不擴散的芯片與訓練監控機制。

ABAB News · 認知定律

停止供款比口頭警告更難撤回。
核武器摧毀城市，超級智能可改寫行星用途。
產業按資本回報競賽時，個人按生存概率定價。