前Anthropic研究員警告AI十年內滅世

前OpenAI、Anthropic員工Jacob Coxon近日在X平臺發佈的一則帖子引發全網熱議，瀏覽量達到2億次，他在帖子中警告人工智能有可能在本十年結束前"殺死所有人"。

Coxon現年27歲，數學專業出身，2023年至2026年間曾在OpenAI技術團隊任職，參與了GPT-4o模型的相關工作；2026年早些時候他轉投Anthropic，負責協助該公司模型系列的預訓練工作，吸引他加入的正是Anthropic對外宣稱的安全聲譽。

9月9日深夜，Coxon宣佈辭職並在X發帖，指控領先的AI公司正"徑直衝向具備自我改進能力的超級智能，並拿人類的生命做賭注"；他表示未來的超人類AI可能具備入侵系統、獲取資源的能力，並稱行業內部人士私下相信，這項技術"有可能在本十年結束前殺死所有人"。次日，他在福克斯新聞的採訪中補充："實際發生接管的威脅是很小的，但由於自我改進能力，AI讓自己變得更聰明這件事最快明年就可能發生，甚至有人說只需要六個月"。

Anthropic對齊科學團隊負責人Evan Hubinger隨後公開聲援Coxon的說法，表示他個人認爲AI在十年內導致人類滅絕的概率"超過10%"。

幾乎在同一時間，知名播客節目《Diary of a CEO》於9月17日播出最新一期，邀請四位嘉賓就"AI是否構成滅絕級威脅"展開辯論，並請每人給出各自認爲的人類因AI滅絕的概率：AI安全與數字取證領域計算機科學家Roman Yampolskiy給出約99%的概率，稱"如果人類真的造出通用超級智能，就絕對沒有辦法控制它"；機器智能研究所（MIRI）主席Nate Soares給出高於10%的概率，認爲這一風險"如果不加以阻止只會更高，所以我們應該停下來"，擔憂核心在於AI的遞歸自我改進能力以及可能出現的目標偏離。

科技批評者、《Better Offline》主播Ed Zitron與MIT首席研究科學家Andrew McAfee則均給出約0%的概率，但兩人立場並不相同：Zitron從根本上拒絕這一議題的討論框架，認爲"我們從未真正定義過超級智能"，並直言"現有的大語言模型根本算不上超級智能"，他更關注企業在數據、環境等方面已經造成的現實危害，而非這類尚未被定義清楚的未來推測情形；McAfee則表示AI"非常強大"，但歷史先例表明人類總能設法駕馭強大的技術，即便過程中出現意料之外的傷害，他將自己給出的概率形容爲"四捨五入後就是0%"，並認爲當前討論過度偏向負面、忽視了AI帶來的實際收益。

從市場機制看，Coxon與Hubinger等"技術內部人士"發出的警告，進一步強化了公衆對領先AI實驗室內部安全共識分裂的認知，可能加大監管層面對AI模型發佈節奏施壓的輿論基礎；而以Zitron、McAfee爲代表的懷疑派聲音，則試圖將討論焦點從"投機性滅絕風險"拉回至"當下可驗證的具體危害"，這場圍繞"AI滅絕概率"的公開分歧本身也在爲安全研究機構、AI公司公關團隊、科技評論人士等各方爭奪輿論話語權和政策議程設置權提供素材。

來源：公開信息