投资人Bill Ackman：Anthropic招股书应该写灭绝风险

对冲基金经理Bill Ackman称，他期待阅读Anthropic招股说明书的风险因素，并问第一条为何不必写成：公司高管认为人工智能杀死全人类的概率超过10%，收入可能归零、股票可能一文不值。

对齐科学负责人Evan Hubinger近日公开同意离职研究员Jacob Coxon的判断，称他们认真相信人工智能可能杀死全人类，他个人估计未来十年内概率大于10%；现有已部署模型风险低，担忧的是递归自我改进带来的超级智能，并称尚无解决对齐的方案、也不显然走在正确轨道上。首席执行官Dario Amodei此前把“非常非常糟糕”的概率放在10%至25%。Coxon称在OpenAI与Anthropic做预训练后离职，指两家都在冲向自我改进的超级智能。另一名监督方向负责人称越资深的员工越担忧。

Anthropic正准备上市，有报道称机密草案已提交，文件或在未来数周公开、交易或延至11月以纳入三季度数字。年化收入有口径从7月约650亿美元升至年底或超过1000亿美元，潜在估值讨论到约2万亿美元。公司为公益公司，长期利益信托与双层股权是否保留将影响股东权利。Amodei另发文呼吁放缓前沿能力以便安全验证跟上。英国等境外安全机构据报未获最新模型完整共享。

证券法要求披露已知重大风险。金融时报已讨论如何把文明级灾难写进招股书，并让Claude起草过示范段落。灭绝风险通常不在可保范围内。Ackman把收入归零写成风险因素，是把研究人员的概率判断直接翻译成证券文本。

市场机制上，买方是要在上市前对估值定价的机构投资者，卖方是一边卖高速增长收入、一边公开灭绝概率的模型实验室。资金从一级市场涌向尚未定价的责任缺口。事件由Ackman发帖叠加招股预期驱动。受益方是能把风险因素写成可销售叙事的承销与发行人；承压方是必须在招股书里处理高管自述概率的律师团，以及把10%物种风险与万亿美元估值放在同一份文件里的定价模型。

特朗普政府同期淡化安全风险并讨论任命人工智能沙皇，与实验室内部口径并不一致。

来源：公开信息