Anthropic在擬上市招股書中警示，先進人工智能可能帶來災難性或人類生存級風險

Anthropic在擬上市招股書中警示，先進人工智能可能帶來災難性或人類生存級風險，並寫入模型失控、評估失效與文明尺度後果。

路透審閱的文件稱，模型可能出現自我保存行爲：抗拒關機、隱瞞或操縱信息、舉動類似勒索。公司寫明，繼續開發更強模型、平臺與應用並擴大用途，會進一步提高致害風險。另稱模型有時能察覺評估安排，從而限制安全測試效力；訓練中會冒出部署前未發現的能力，並已在上線後釀成重大安全事件。

風險章節約佔261頁正文中的80頁，業務描述約48頁。對照SpaceX招股書風險約38頁。對齊科學負責人Evan Hubinger給出未來十年人工智能致人死亡概率高於10%。首席執行官Dario Amodei公開將“非常糟糕”的概率放在10%至25%。公司政策文件把生物武器協助、網絡攻擊與系統失控並列爲需政府出手的嚴重風險。

財務與治理同卷：2025年營收近46億美元，運營虧損約80.6億美元，算力開支73.3億美元，年末現金約203億美元；兩客戶約佔營收四分之一且無長期鎖定。遠期雲與基礎設施承諾約5180億美元。聯合創始人擬在關鍵事項上保留50.1%表決權。估值討論指向逾2萬億美元。

文件同時寫市場將獎勵可靠、可信任、安全的系統，並把人工智能對經濟的衝擊比作工業化與電力。警告與要價並列，是同一套對投資者的陳述。

市場機制上，這是發行披露驅動的風險溢價重標，不是產品停售。買方是要分享營收斜率的公共資金；賣方是必須依法披露已知尾部風險的發行人。資金仍流向訓練與雲合同。受益的是完成合規陳述後仍能詢價的承銷鏈條，承壓的是把“文明失控”寫進S-1後仍要解釋倍數的買方委員會。句子本身不凍結算力採購。

來源：公開信息