OpenAI CEO Sam Altman在联合国安理会呼吁对AI极度谨慎

OpenAI首席执行官Sam Altman在联合国安理会称，当前人工智能发展“需要极度谨慎”，行业不能因为收益太大、重要到不能放慢，就接受过多技术风险。

这场15国安理会公开通报由法国主持，正值联大高级别周。与会者包括Anthropic首席执行官Dario Amodei（视频连线）和Hugging Face联合创始人Clément Delangue。Altman到场发言，称公司会走“中间道路”：既不陷入盲目乐观，也不陷入末日论。他同时说，若人工智能要民主，最重要的决定不能只由旧金山实验室做出，必须经对人民负责的政府，并在国际层面合作；历史上互不喜欢的国家也曾为一项强大新技术走到一起。

OpenAI会前对记者表示，Altman将推动用基准衡量模型能力、评估公司防护措施，并把自己放在“务实中间派”：要共同安全标准，也要继续发展，避免能力过度集中在少数公司。安理会成员国含美国与中国，双方都将发言。一名欧洲外交官称核心问题包括算法互操作会否触发战争，这属于安理会职权。联合国秘书长António Guterres连日强调国家级管理不够，需要全球协调。

会场外节奏并不一致。美国总统Donald Trump拒绝全球统一规则，称之为“全球图谋”，并称美国要鼓励人工智能而不是勒住它。这是安理会第三次就人工智能召开公开会议，此前有2023年7月和2024年12月两场。会前数周，行业围绕失控风险和是否放缓出现密集表态；Amodei在会上称管理不善则人工智能甚至可能危及整个人类。

Altman近年并行两条线：一边要求美国牵头制定标准、主张实验室不能以最大速度无限扩张，一边继续训练更强模型并寻求全球分发。OpenAI已公开讨论能力评估、事件强制报告，以及尚不能安全走到完全对齐的递归自我改进。此次把同一套话放到安理会，对象从国会和七国集团换成有否决权的安全机构。

市场机制上，这是监管预期事件。买方是要全球准入和标准互认的美国实验室；卖方压力落在开放权重路线和不愿接受外部测试的公司。资金不因一场通报立刻搬家，但安理会舞台会抬高“安全合规”作为出海门票的价格。受益的是已有评测和政府事务班底的闭源实验室，承压的是把放缓写成投降的竞赛叙事，以及被排除在标准制定桌外的国家产业。

补充层面，Yoshua Bengio以联合国独立国际科学小组联合主席身份亦在通报安排中出现。会议本身不预期通过有约束力的决议。

来源：公开信息