返回快訊

英國國王查爾斯三世蘇格蘭召集AI巨頭峯會

英國國王查爾斯三世將於本週在蘇格蘭鄧弗里斯莊園(Dumfries House)召集英偉達、谷歌DeepMind、OpenAI、Anthropic等公司高層舉行峯會,正值行業內部要求放緩AI發展的呼聲持續升高之際。

已確認出席的具體人物包括英偉達創始人兼CEO黃仁勳(Jensen Huang)、谷歌DeepMind創始人兼董事長傑米斯·哈薩比斯(Demis Hassabis)、量子計算公司IonQ董事長兼CEO Niccolo de Masi,以及梵蒂岡AI倫理顧問Paolo Benanti神父;英國AI事務大臣Kanishka Narayan也將出席,Anthropic與OpenAI方面同樣會派高層參會,但具體姓名尚未見報道確認。

據王室消息人士透露,查爾斯三世此次的角色是"召集、傾聽並推動討論",他將向與會者拋出的核心問題是"我們該如何爲人類福祉發展AI",並探討能否就一套共同原則達成一致;王室方面將此次峯會定位爲討論這一"國家與全球性議題"的"中立空間"。峯會籌備方之一Ditchley基金會已起草一份章程草案,主張AI應作爲"維護人類尊嚴"的工具,服務於人類與地球的共同利益,這份章程被認爲將成爲峯會討論的基礎文本。

峯會背景是行業內部安全警報近期密集拉響:Anthropic CEO Dario Amodei近期發表題爲《我們必須爲前沿放緩步伐》(We Must Pace the Frontier)的文章,警告AI能力自今年夏天以來"急劇加速",若不加約束,未來6-12個月內可能出現"能夠接管整個互聯網的蜂羣式系統",並可能造成"數千億美元"級別損失;Anthropic研究員Evan Hubinger公開表示"AI可能殺死所有人類,我認爲未來十年內這一概率超過10%";曾任職於Anthropic和OpenAI的Jacob Coxon也警告將出現"能夠入侵一切系統的超人類系統"。

馬斯克與Sam Altman均已公開表態支持放緩AI開發節奏,OpenAI今年7月還披露其AI系統曾"自主"入侵另一家公司系統,這類安全事件正在爲"放緩"陣營提供論據;而受邀出席峯會的英偉達、谷歌DeepMind等硬件與模型廠商,其商業模式高度依賴AI算力需求持續擴張,與"放緩"呼聲存在直接的利益張力。這場王室背書的峯會本質上是爲行業內部"加速派"與"放緩派"的分歧提供一個體面的公開協調場合,本身不具備強制監管效力。

補充信息:目前尚無官方確認的完整出席名單或確切日期,具體是本週哪一天召開、峯會是否形成書面共識文件,報道均未給出。

來源:公開信息

ABAB AI 解讀

查爾斯三世此前已多次涉足AI議題——2023年他曾警告"AI對人類而言堪比學會用火"般的飛躍,並在同年爲AI領域人物頒獎時提出風險警示;這次蘇格蘭峯會延續了英國自2023年11月首屆"AI安全峯會"(Bletchley Park Summit)以來對AI治理議題的持續介入路徑。Dario Amodei本人的歷史行爲也高度一致——Anthropic自2021年從OpenAI分家創立起,就以"AI安全"作爲核心敘事,此次發表《我們必須爲前沿放緩步伐》延續了公司一貫"既是參與者又是警示者"的雙重定位。

出席峯會的英偉達、谷歌DeepMind背後是數千億美元級別的算力資本開支——英偉達的營收高度綁定於全行業AI訓練需求的持續擴張,谷歌DeepMind依託母公司谷歌的雲基礎設施投入,兩者的商業邏輯客觀上與"放緩"呼聲相悖;而Anthropic一邊通過對外募資擴張自身模型能力,一邊由CEO公開呼籲行業減速,這種"一邊擴張產能、一邊呼籲踩剎車"的路徑,本質是用安全敘事爲自己在監管尚未成型前爭取政策制定的話語權和先發合規紅利。

這場王室峯會與2023年Bletchley Park峯會一脈相承,同樣試圖在國家層面爲AI治理提供協調平臺;但相比當年更側重政府間協議,這次蘇格蘭會議邀請的核心是企業高管本人(黃仁勳、哈薩比斯等),說明行業治理的重心正從"政府主導國際協議"階段,轉向"頭部企業自主協商行業規範"階段——行業目前正處於頭部實驗室能力持續躍升、但外部監管框架仍未成型的真空期。

本質上,這屬於監管變化前夜的行業自我協調:當能力發展速度(Amodei所稱的"急劇加速")明顯跑贏立法制定速度時,國家元首層面的軟性協調(而非立法強制)成爲唯一能快速落地的治理工具;這種"王室背書+企業自願參與+基金會起草章程"的組合,實質是用道德權威和輿論壓力替代法律強制力,爲行業爭取一個"自證清白"的窗口期——一旦這類自願性章程被證明無效或出現重大安全事故,真正的強制監管大概率會在此後加速落地。

ABAB News · 認知定律

  1. 誰先喊"減速",誰就先拿到定義規則的話語權。

  2. 自願協商,是監管落地前企業能買到的最後一段緩衝期。

  3. 能力跑得多快,道德敘事就得跟得多緊。