Nate Soares：十年未缴401(k)，因认为AI或在十年内灭绝人类

ABAB AI 解读

Nate Soares自2014年离开Google加入MIRI后，长期专注AI对齐与存在性风险研究。MIRI由Eliezer Yudkowsky创立，早期以技术研究为主，后转向公开警告与政策倡导。Soares与Yudkowsky在2025年出版的《If Anyone Builds It, Everyone Dies》中系统论证：当前通过大规模训练“生长”而非精确编写的AI系统，其内部目标不可完全理解，一旦达到超级智能便可能产生与人类生存冲突的工具性目标。这一立场可追溯至Soares在2013-2014年间接受AI存在性风险观点，并放弃高薪工程岗位转向非营利研究。

此次财务决策并非短期情绪反应，而是长达十年的持续选择。Soares保留Google时期的401(k)账户但不追加供款，将其个人现金流配置从长期退休储蓄转向当下行动。这与MIRI作为非营利机构的运作模式一致：资源主要用于研究、公开倡导与政策影响，而非追求商业回报。与此同时，AI产业资本正大规模流向能力竞赛——训练算力、数据中心与人才——形成“能力优先、对齐滞后”的路径。Soares的选择等于用个人资产配置公开表达其对这一路径风险的定价。

对比之下，Geoffrey Hinton将AI在十年内导致人类灭绝的概率估计在约10%左右，Anthropic相关研究者Evan Hubinger也给出类似或略高的个位数至低双位数估计。Elon Musk则从另一方向认为AI与机器人将带来物质丰裕，使传统退休储蓄在10-20年内变得“无关紧要”。Soares的>50%估计显著高于这些公开数字，且通过停止供款将概率判断转化为可观察的行为。这一差异的关键不在于对“AI会变强”的共识，而在于对“当前训练方法能否在超级智能前完成可靠对齐”的判断——Soares与Yudkowsky认为现有方法下失败是默认结果。

个人财务行为本身不构成概率证明，但它揭示了一个机制：当研究者将自身长期消费与风险判断绑定后，其警告的可信度与可证伪性同时上升。若未来十年内超级智能未出现或被有效控制，Soares的账户选择将持续产生机会成本；若出现失控，则该选择失去意义。这一自我绑定使MIRI的公开立场从纯理论主张转化为可被外部观察的承诺，也凸显产业资本路径与个人风险定价之间的张力——前者按季度或年度回报优化，后者按人类存续概率优化。观察指标在于：主要实验室是否在未来数年实质放缓通用智能训练、或政府是否启动类似核不扩散的芯片与训练监控机制。

ABAB News · 认知定律

停止供款比口头警告更难撤回。
核武器摧毁城市，超级智能可改写行星用途。
产业按资本回报竞赛时，个人按生存概率定价。