投資人Bill Ackman：Anthropic招股書應該寫滅絕風險

對沖基金經理Bill Ackman稱，他期待閱讀Anthropic招股說明書的風險因素，並問第一條爲何不必寫成：公司高管認爲人工智能殺死全人類的概率超過10%，收入可能歸零、股票可能一文不值。

對齊科學負責人Evan Hubinger近日公開同意離職研究員Jacob Coxon的判斷，稱他們認真相信人工智能可能殺死全人類，他個人估計未來十年內概率大於10%；現有已部署模型風險低，擔憂的是遞歸自我改進帶來的超級智能，並稱尚無解決對齊的方案、也不顯然走在正確軌道上。首席執行官Dario Amodei此前把“非常非常糟糕”的概率放在10%至25%。Coxon稱在OpenAI與Anthropic做預訓練後離職，指兩家都在衝向自我改進的超級智能。另一名監督方向負責人稱越資深的員工越擔憂。

Anthropic正準備上市，有報道稱機密草案已提交，文件或在未來數週公開、交易或延至11月以納入三季度數字。年化收入有口徑從7月約650億美元升至年底或超過1000億美元，潛在估值討論到約2萬億美元。公司爲公益公司，長期利益信託與雙層股權是否保留將影響股東權利。Amodei另發文呼籲放緩前沿能力以便安全驗證跟上。英國等境外安全機構據報未獲最新模型完整共享。

證券法要求披露已知重大風險。金融時報已討論如何把文明級災難寫進招股書，並讓Claude起草過示範段落。滅絕風險通常不在可保範圍內。Ackman把收入歸零寫成風險因素，是把研究人員的概率判斷直接翻譯成證券文本。

市場機制上，買方是要在上市前對估值定價的機構投資者，賣方是一邊賣高速增長收入、一邊公開滅絕概率的模型實驗室。資金從一級市場湧向尚未定價的責任缺口。事件由Ackman發帖疊加招股預期驅動。受益方是能把風險因素寫成可銷售敘事的承銷與發行人；承壓方是必須在招股書裏處理高管自述概率的律師團，以及把10%物種風險與萬億美元估值放在同一份文件裏的定價模型。

特朗普政府同期淡化安全風險並討論任命人工智能沙皇，與實驗室內部口徑並不一致。

來源：公開信息