OpenAI CEO Sam Altman在聯合國安理會呼籲對AI極度謹慎

OpenAI首席執行官Sam Altman在聯合國安理會稱，當前人工智能發展“需要極度謹慎”，行業不能因爲收益太大、重要到不能放慢，就接受過多技術風險。

這場15國安理會公開通報由法國主持，正值聯大高級別周。與會者包括Anthropic首席執行官Dario Amodei（視頻連線）和Hugging Face聯合創始人Clément Delangue。Altman到場發言，稱公司會走“中間道路”：既不陷入盲目樂觀，也不陷入末日論。他同時說，若人工智能要民主，最重要的決定不能只由舊金山實驗室做出，必須經對人民負責的政府，並在國際層面合作；歷史上互不喜歡的國家也曾爲一項強大新技術走到一起。

OpenAI會前對記者表示，Altman將推動用基準衡量模型能力、評估公司防護措施，並把自己放在“務實中間派”：要共同安全標準，也要繼續發展，避免能力過度集中在少數公司。安理會成員國含美國與中國，雙方都將發言。一名歐洲外交官稱核心問題包括算法互操作會否觸發戰爭，這屬於安理會職權。聯合國祕書長António Guterres連日強調國家級管理不夠，需要全球協調。

會場外節奏並不一致。美國總統Donald Trump拒絕全球統一規則，稱之爲“全球圖謀”，並稱美國要鼓勵人工智能而不是勒住它。這是安理會第三次就人工智能召開公開會議，此前有2023年7月和2024年12月兩場。會前數週，行業圍繞失控風險和是否放緩出現密集表態；Amodei在會上稱管理不善則人工智能甚至可能危及整個人類。

Altman近年並行兩條線：一邊要求美國牽頭制定標準、主張實驗室不能以最大速度無限擴張，一邊繼續訓練更強模型並尋求全球分發。OpenAI已公開討論能力評估、事件強制報告，以及尚不能安全走到完全對齊的遞歸自我改進。此次把同一套話放到安理會，對象從國會和七國集團換成有否決權的安全機構。

市場機制上，這是監管預期事件。買方是要全球准入和標準互認的美國實驗室；賣方壓力落在開放權重路線和不願接受外部測試的公司。資金不因一場通報立刻搬家，但安理會舞臺會抬高“安全合規”作爲出海門票的價格。受益的是已有評測和政府事務班底的閉源實驗室，承壓的是把放緩寫成投降的競賽敘事，以及被排除在標準制定桌外的國家產業。

補充層面，Yoshua Bengio以聯合國獨立國際科學小組聯合主席身份亦在通報安排中出現。會議本身不預期通過有約束力的決議。

來源：公開信息