返回快讯

OpenAI CEO Altman:AI两条路都会导致灾难

OpenAI CEO Sam Altman在X平台发文提出,AI发展存在两种"必须避免"的糟糕走向:第一种是人类彻底失去对未来的控制权,他表示"这是不可接受的,我们坚定不移地站在'人类阵营'(Team Humanity)一边,AI必须始终服务于人类";第二种是权力过度集中——如果某个极其强大的AI系统被单一个人或公司用来把自己的世界观强加给所有人,"结果可能极其反乌托邦"。

他强调,要同时避开这两种风险,需要走一条"狭窄的中间道路",并举例说明——一个国家可能获得过大的权力是一种风险,一个实验室最终掌握过大的权力则是另一种风险;要避免第一种风险,需要确保对齐与安全技术的发展始终领先于模型能力本身的进步。

这一论述延续了Altman过去一个月在多个公开场合反复阐述的立场——8月17日他在"Relentless"播客上表示,"当下真正的斗争是:我们要走向AI威权主义,还是走向自由",并称"人类每一次为了安全而牺牲自由,长期看都是净损失";8月23日接受播客主持人David Senra采访时他进一步表示,"正确的做法是让人们深度掌控未来,社会和模型将共同演化"。

值得注意的是,多篇报道指出Altman这一立场与OpenAI自身的商业实践存在张力——公司的旗舰模型仍以闭源、专有形式运营;相比之下,Anthropic是少数未签署、也未公开支持"开放权重与美国AI领导力"联署信的头部实验室,转而强调对能力日益增强的模型施加更强的安全防护,这一分歧此前也被外界解读为Altman"暗讽"Anthropic立场保守的信号之一。

市场机制上,Altman反复强调"权力集中"风险的表态,出现在OpenAI与Anthropic、xAI、谷歌DeepMind就跨实验室安全协调机制进行谈判、且OpenAI自身正筹备IPO的敏感窗口期;将"避免权力集中于单一实验室"作为公开立场,客观上有助于OpenAI在这场安全叙事竞争中,把自己定位为"主张分散、民主化"的一方,与被部分批评者指责"借安全之名筑起监管护城河"的路径形成区隔,这也是当前头部AI实验室在监管框架成型前,围绕"谁的方案更值得信任"展开话语权竞争的一部分。

来源:公开信息

ABAB AI 解读

Altman近几个月持续在多个播客和公开场合反复强调"权力集中"风险,本质上是在为自己此前"AI威权主义 vs 自由"的二元框架不断加码——这套说辞最早可追溯到他今年7月发表的博客文章《温和的奇点》,文中已经提出"超级智能不应过度集中在任何个人、公司或国家手中"的原则,此次X发文是这一思路的延续和进一步具体化。

从资源分配角度看,Altman一边公开警告"权力集中"风险,一边执掌的OpenAI仍然维持闭源商业模式、且正在推进自身IPO进程(据此前披露,公司已秘密提交约8520亿美元估值的IPO申请)——这种"呼吁分散权力,自身却持续扩大资本和市场影响力"的组合,被部分评论视为一种话语策略:通过占据"民主化AI"的道德高地,为自己在与Anthropic等对手的安全叙事竞争中争取舆论优势,而不必然对应具体的开源或分权行动。

这种"警告集中风险、同时自身走向集中"的悖论,与历史上多个行业巨头在反垄断压力下的公关策略类似——大型科技公司在面临监管审查时,常常主动倡导"开放生态""数据可携带权"等原则,即便自身商业模式仍高度依赖平台垄断地位;行业位置上,AI头部实验室目前正处于安全叙事、监管框架和资本市场估值三线并行博弈的阶段,"权力集中"话语权本身已经成为影响监管走向和投资者信心的重要筹码。

本质上这是一场关于监管框架未来形态的话语权预设——如果"权力集中于单一实验室"被广泛接受为核心风险,那么监管政策的自然导向将是强制要求头部实验室开放模型权重、引入外部治理机制,这恰恰有利于像OpenAI这类拥有更丰富开源产品线的公司抢占监管制高点,相对不利于坚持完全闭源、强调"安全优先于开放"的Anthropic;机制上,谁能在监管框架成型前把自己的商业模式包装成"风险解药",谁就能在最终的监管细则制定中掌握更大的主动权。

ABAB News · 认知定律

  1. 喊得最响的"反集中",往往是集中到自己这边的前奏。

  2. 监管框架定型前,谁先讲好故事,谁就先拿到规则制定权。

  3. 开源与闭源之争,本质是谁的安全叙事更能说服监管者。