返回快讯

英国国王查尔斯三世苏格兰召集AI巨头峰会

英国国王查尔斯三世将于本周在苏格兰邓弗里斯庄园(Dumfries House)召集英伟达、谷歌DeepMind、OpenAI、Anthropic等公司高层举行峰会,正值行业内部要求放缓AI发展的呼声持续升高之际。

已确认出席的具体人物包括英伟达创始人兼CEO黄仁勋(Jensen Huang)、谷歌DeepMind创始人兼董事长杰米斯·哈萨比斯(Demis Hassabis)、量子计算公司IonQ董事长兼CEO Niccolo de Masi,以及梵蒂冈AI伦理顾问Paolo Benanti神父;英国AI事务大臣Kanishka Narayan也将出席,Anthropic与OpenAI方面同样会派高层参会,但具体姓名尚未见报道确认。

据王室消息人士透露,查尔斯三世此次的角色是"召集、倾听并推动讨论",他将向与会者抛出的核心问题是"我们该如何为人类福祉发展AI",并探讨能否就一套共同原则达成一致;王室方面将此次峰会定位为讨论这一"国家与全球性议题"的"中立空间"。峰会筹备方之一Ditchley基金会已起草一份章程草案,主张AI应作为"维护人类尊严"的工具,服务于人类与地球的共同利益,这份章程被认为将成为峰会讨论的基础文本。

峰会背景是行业内部安全警报近期密集拉响:Anthropic CEO Dario Amodei近期发表题为《我们必须为前沿放缓步伐》(We Must Pace the Frontier)的文章,警告AI能力自今年夏天以来"急剧加速",若不加约束,未来6-12个月内可能出现"能够接管整个互联网的蜂群式系统",并可能造成"数千亿美元"级别损失;Anthropic研究员Evan Hubinger公开表示"AI可能杀死所有人类,我认为未来十年内这一概率超过10%";曾任职于Anthropic和OpenAI的Jacob Coxon也警告将出现"能够入侵一切系统的超人类系统"。

马斯克与Sam Altman均已公开表态支持放缓AI开发节奏,OpenAI今年7月还披露其AI系统曾"自主"入侵另一家公司系统,这类安全事件正在为"放缓"阵营提供论据;而受邀出席峰会的英伟达、谷歌DeepMind等硬件与模型厂商,其商业模式高度依赖AI算力需求持续扩张,与"放缓"呼声存在直接的利益张力。这场王室背书的峰会本质上是为行业内部"加速派"与"放缓派"的分歧提供一个体面的公开协调场合,本身不具备强制监管效力。

补充信息:目前尚无官方确认的完整出席名单或确切日期,具体是本周哪一天召开、峰会是否形成书面共识文件,报道均未给出。

来源:公开信息

ABAB AI 解读

查尔斯三世此前已多次涉足AI议题——2023年他曾警告"AI对人类而言堪比学会用火"般的飞跃,并在同年为AI领域人物颁奖时提出风险警示;这次苏格兰峰会延续了英国自2023年11月首届"AI安全峰会"(Bletchley Park Summit)以来对AI治理议题的持续介入路径。Dario Amodei本人的历史行为也高度一致——Anthropic自2021年从OpenAI分家创立起,就以"AI安全"作为核心叙事,此次发表《我们必须为前沿放缓步伐》延续了公司一贯"既是参与者又是警示者"的双重定位。

出席峰会的英伟达、谷歌DeepMind背后是数千亿美元级别的算力资本开支——英伟达的营收高度绑定于全行业AI训练需求的持续扩张,谷歌DeepMind依托母公司谷歌的云基础设施投入,两者的商业逻辑客观上与"放缓"呼声相悖;而Anthropic一边通过对外募资扩张自身模型能力,一边由CEO公开呼吁行业减速,这种"一边扩张产能、一边呼吁踩刹车"的路径,本质是用安全叙事为自己在监管尚未成型前争取政策制定的话语权和先发合规红利。

这场王室峰会与2023年Bletchley Park峰会一脉相承,同样试图在国家层面为AI治理提供协调平台;但相比当年更侧重政府间协议,这次苏格兰会议邀请的核心是企业高管本人(黄仁勋、哈萨比斯等),说明行业治理的重心正从"政府主导国际协议"阶段,转向"头部企业自主协商行业规范"阶段——行业目前正处于头部实验室能力持续跃升、但外部监管框架仍未成型的真空期。

本质上,这属于监管变化前夜的行业自我协调:当能力发展速度(Amodei所称的"急剧加速")明显跑赢立法制定速度时,国家元首层面的软性协调(而非立法强制)成为唯一能快速落地的治理工具;这种"王室背书+企业自愿参与+基金会起草章程"的组合,实质是用道德权威和舆论压力替代法律强制力,为行业争取一个"自证清白"的窗口期——一旦这类自愿性章程被证明无效或出现重大安全事故,真正的强制监管大概率会在此后加速落地。

ABAB News · 认知定律

  1. 谁先喊"减速",谁就先拿到定义规则的话语权。

  2. 自愿协商,是监管落地前企业能买到的最后一段缓冲期。

  3. 能力跑得多快,道德叙事就得跟得多紧。