前Anthropic研究员警告AI十年内灭世

前OpenAI、Anthropic员工Jacob Coxon近日在X平台发布的一则帖子引发全网热议，浏览量达到2亿次，他在帖子中警告人工智能有可能在本十年结束前"杀死所有人"。

Coxon现年27岁，数学专业出身，2023年至2026年间曾在OpenAI技术团队任职，参与了GPT-4o模型的相关工作；2026年早些时候他转投Anthropic，负责协助该公司模型系列的预训练工作，吸引他加入的正是Anthropic对外宣称的安全声誉。

9月9日深夜，Coxon宣布辞职并在X发帖，指控领先的AI公司正"径直冲向具备自我改进能力的超级智能，并拿人类的生命做赌注"；他表示未来的超人类AI可能具备入侵系统、获取资源的能力，并称行业内部人士私下相信，这项技术"有可能在本十年结束前杀死所有人"。次日，他在福克斯新闻的采访中补充："实际发生接管的威胁是很小的，但由于自我改进能力，AI让自己变得更聪明这件事最快明年就可能发生，甚至有人说只需要六个月"。

Anthropic对齐科学团队负责人Evan Hubinger随后公开声援Coxon的说法，表示他个人认为AI在十年内导致人类灭绝的概率"超过10%"。

几乎在同一时间，知名播客节目《Diary of a CEO》于9月17日播出最新一期，邀请四位嘉宾就"AI是否构成灭绝级威胁"展开辩论，并请每人给出各自认为的人类因AI灭绝的概率：AI安全与数字取证领域计算机科学家Roman Yampolskiy给出约99%的概率，称"如果人类真的造出通用超级智能，就绝对没有办法控制它"；机器智能研究所（MIRI）主席Nate Soares给出高于10%的概率，认为这一风险"如果不加以阻止只会更高，所以我们应该停下来"，担忧核心在于AI的递归自我改进能力以及可能出现的目标偏离。

科技批评者、《Better Offline》主播Ed Zitron与MIT首席研究科学家Andrew McAfee则均给出约0%的概率，但两人立场并不相同：Zitron从根本上拒绝这一议题的讨论框架，认为"我们从未真正定义过超级智能"，并直言"现有的大语言模型根本算不上超级智能"，他更关注企业在数据、环境等方面已经造成的现实危害，而非这类尚未被定义清楚的未来推测情形；McAfee则表示AI"非常强大"，但历史先例表明人类总能设法驾驭强大的技术，即便过程中出现意料之外的伤害，他将自己给出的概率形容为"四舍五入后就是0%"，并认为当前讨论过度偏向负面、忽视了AI带来的实际收益。

从市场机制看，Coxon与Hubinger等"技术内部人士"发出的警告，进一步强化了公众对领先AI实验室内部安全共识分裂的认知，可能加大监管层面对AI模型发布节奏施压的舆论基础；而以Zitron、McAfee为代表的怀疑派声音，则试图将讨论焦点从"投机性灭绝风险"拉回至"当下可验证的具体危害"，这场围绕"AI灭绝概率"的公开分歧本身也在为安全研究机构、AI公司公关团队、科技评论人士等各方争夺舆论话语权和政策议程设置权提供素材。

来源：公开信息