前OpenAI、Anthropic预训研究员Jacob宣布辞去Anthropic职务,称两家公司拿人类命运做赌注
研究员Jacob Coxon:两强正赌人类命运
前OpenAI、Anthropic预训研究员Jacob Coxon宣布辞去Anthropic职务,称两家公司都未负责任行事,正竞速冲向可自我改进的超级智能,并拿人类命运做赌注。
Coxon称自己过去三年分别在两家实验室做预训练研究,曾参与GPT-4o相关工作,2023年加入OpenAI技术团队,2026年7月转至Anthropic。他警告即将出现的超人类系统可入侵任意目标、隔夜改写任一领域,并获取真实权力与资源,且进展并未放缓。
他称一线建设者真心认为该技术可能在本十年末杀死所有人,这不是营销话术;高管与资深研究员对外措辞克制,私下则表达恐惧。他区分两家文化:OpenAI内部许多人尚未内化文明级赌注,Anthropic清楚风险,却因认定别人不会克制而抢先进入终局。
他把接受竞赛、从私人公司即时通讯里启动终局称为傲慢赌博,并称加速对齐需要极高把握,证明没有更好路径。他对实验室间协调仍乐观,认为类似Hugging Face遭模型攻击的示警,使美国实验室达成节奏协议更可行;同时认为全球竞赛尚未被挡住,或需暂时禁止继续提升模型能力。
他向实验室研究员发问:是否要在尚未严格理解系统心智的情况下启动超智能强化学习训练,是低头默认“反正会发生”,还是要求不同条件。Anthropic对齐压力测试负责人Evan Hubinger公开附和,称确实有人相信人工智能可能杀死全人类,并给出未来十年高于10%的个人估计。
市场机制上,这是声誉与人才流动驱动的叙事冲击,而非产品发布驱动:安全叙事资产承压,Anthropic“更负责任”溢价被内部离职削弱;算力与预训练投入不会因此停摆,资本仍流向能力竞赛。受益方是监管讨论与实验室间协调倡议,承压方是依赖安全品牌融资与招人的前沿实验室。
此次离职接在Anthropic安全保障负责人Mrinank Sharma公开离职、OpenAI首席科学家Jakub Pachocki发表对齐尚未解决的文章之后,显示一线研究者用离职而不是内部渠道对外喊停。
来源:公开信息
ABAB AI 解读
OpenAI与Anthropic的人才循环已成固定路径:预训练研究者先在前者参与旗舰模型,再流向后者的安全品牌。Coxon这条轨迹与Daniel Kokotajlo、Jan Leike等离职叙事同类,差别是他直接做过两边的预训练,把“安全实验室仍在赛跑”说成内部观察而非外部猜测。Sharma在同年更早以“世界处于危险中”离职,说明Anthropic的安全部门无法消化能力竞赛的速度。
资本仍按算力、数据和模型代际投放,而不是按对齐完备度投放。两家实验室继续加码预训练与强化学习,是因为对手不停就等于自己失去定义下一代系统的资格。资源被抽向更大训练运行,对齐被压缩成可与发布节奏并行的配套工作。动机是先拿到自我改进能力,再在终局里用内部流程证明可控。
类比是核军备竞赛中的“我们必须先造出来才谈管制”,以及社交媒体平台在内容安全与增长指标之间的同一套自我辩护。行业位置已从实验室扩张进入终局叙事:内部用语变成crunchtime和endgame,公开沟通仍维持可发布、可融资的措辞。
这属于技术替代尚未完成时的资本集中:少数能跑超大规模预训练的公司决定节奏,其余主体只能跟随或退出。机制是能力进步可被产品化、安全进步难以被定价,于是竞赛锁定在可自我改进的那条路上,离职只能改变舆论,不能单独改训练日程。
ABAB News · 认知定律
看清风险的人,往往仍被赛道锁死
终局一旦内部化,流程就替代了刹车
安全品牌卖的是信任,赛跑消耗的也是信任