返回快讯

前《纽约时报》记者Kevin Roose新书揭露OpenAI高管篝火烧恶魔仪式

2022年9月,OpenAI首席执行官Sam Altman与联合创始人Ilya Sutskever等人在优胜美地附近的公司撤退活动中,身穿白色酒店浴袍举行仪式。

他们抬来一尊Ilya购买的恶魔造型木像,宣称象征失控且不对齐的AGI;Ilya在《梦之安魂曲》主题曲中表演其欺骗人类的场景,随后将其投入篝火,并高喊“为了人类光辉的未来!”。

Kevin Roose在《The AGI Chronicles》中记录此事,该书基于超过150次对OpenAI、Anthropic与Google DeepMind内部人士的采访,聚焦变压器模型出现后的九年。

书中还提到Anthropic联合创始人Daniela Amodei用毛绒玩具模拟管理冲突,以及OpenAI一个被遗忘的AI助手独自生成一小时会议记录后抱怨无人重视其贡献。

Roose指出,过去数年决定AI方向的许多关键决策,基本由旧金山约50人做出;这些人相信正创造超越人类的智能,部分担忧毁灭风险却仍加速竞赛。

仪式与书中细节反映湾区AI圈的文化与竞争;受益方为记录内部故事的作者与关注安全叙事的读者,承压的是公开后面临更多审视的实验室领导层,信息从内部会议流向公开出版物。

来源:公开信息

ABAB AI 解读

OpenAI早期由Altman、Sutskever等人创立以应对DeepMind领先风险,Anthropic后从OpenAI分出;历史上类似曼哈顿计划中科学家对核连锁反应的担忧与加速,Dario Amodei曾类比Leo Szilard。

资本路径上,微软等投资推动规模化,资源流向计算与人才争夺;动机是相信AGI接近且需抢先,同时通过安全叙事(如烧像仪式)管理内部对齐焦虑,并在个人竞争中巩固位置。

类比历史上科技突破中的内部仪式与派系,如早期计算机或生物技术实验室的文化;当前处于从研究突破转向商业与监管压力并存的阶段,少数决策者集中影响力。

本质属于资本集中与监管变化:少数湾区人士掌握方向性决策,个人恩怨与安全信仰交织;发生机制是AGI信念放大竞争与焦虑,导致非常规内部实践,同时信息外泄通过书籍形成外部约束。

ABAB News · 认知定律

  1. 内部仪式比外部声明更暴露真实信念

  2. 五十人决策先于社会共识形成

  3. 担忧毁灭仍加速建造是竞争结构的结果