返回快訊

OpenAI CEO Sam Altman:美國應主導AI標準並防權力集中

OpenAI首席執行官Sam Altman稱,實驗室外的人應真正參與技術發展路徑,並有明確方法判斷是否安全推進。標準應防止權力集中,確保新公司與開源模型公司能夠競爭,並幫助各國與企業比對證據、從失敗中學習。他認爲美國應主導此事。

公司提案主張由美國牽頭,經商務部下人工智能標準與創新中心,聯合澳、加、德、法、肯尼亞、日、韓、新加坡、印、英等已建安全研究所的國家網絡,制定前沿模型與遞歸自我改進的技術標準。各國自行決定是否寫入法律,提案稱不走統一許可或強制上市前審批。過程應諮詢開閉源開發者、獨立專家與學界,避免偏袒特定公司、國家或商業模式。

文件要求建立共同度量:實驗室內自主研究佔比、須立即人工複覈的流程、事件嚴重等級與報告閾值,以及安全溝通渠道以分享新興威脅。類比航空安全與金融穩定:共同技術標準與互信通道,但不讓渡國家主權。公司稱完全自主的自我改進尚未發生,但國際協作應優先處理該風險。放緩被解釋爲讓對齊研究領先能力,而非預設固定速度。

提案發佈於Altman週三安理會通報與週四白宮晚宴之前。財政部長稱美中已同意建立人工智能對話與通報機制。美國總統同日在大會上拒絕“全球主義方案控制人工智能”,把監督交給司法部。Google DeepMind此前亦主張美國發起、含開源代表的公私標準機構。

屬標準爭奪。買方是希望美國寫規則、開源仍能進場的實驗室與研究所網絡,賣方是把規則權留在國內執法、拒絕超國家實體的白宮立場。注意力從安理會會場流向商務部標準中心;受益方是已有安全研究所、可進入度量聯盟的國家與開源開發者條款,承壓方是被擋在諮詢名單外、或必須按美國度量披露自主研究比例的實驗室。標準本身不發牌照,但能決定何爲可比較的安全證據。

來源:公開信息

ABAB AI 解讀

Altman把兩件事焊在同一份提案裏:實驗室外要有裁決權,以及開源和新公司不能被標準擠出。這是對“共同標準等於閉源俱樂部”的預答覆。載體不是新的世界政府,而是美國商務部中心加十國安全研究所,法律採納權留在各國——結構上避開Trump當天痛斥的全球實體,又把度量權放進美國發起的網絡。遞歸自我改進被寫成優先風險,但註明尚未全面發生,給談判留出“現在寫尺子、將來才用閘”的時間差。

資本路徑是用標準鎖定市場準入語言。誰定義能力基準和事件等級,誰就決定融資、出口與政府採購看哪張表。諮詢開源是爲了防止標準變成只有封閉實驗室填得起的合規成本。安全熱線對標冷戰熱線,把事故通報做成外交產品,與美中週末談成的對話機制對接。OpenAI同時要在安理會發言和白宮晚宴露面,一份博客服務兩場。

對標國際原子能機構與航空標準,以及Hassabis提出的類Finra公私機構。對手是大會上的反全球實體紅線,以及Amodei更硬的放緩與持續進實驗室評估。行業處在美國國內執法與跨國度量並行起草的分裂期。

結構變化是監管變化。許可權被拆成“國家法律”和“可比較證據”。機制是:不設全球牌照,卻用共同尺子讓市場給不合規的實驗室折價。開源被寫進防集中條款,是爲了讓標準看起來不像在保護現有封閉份額。

ABAB News · 認知定律

  1. 標準不發牌,也能決定誰的證據算數

  2. 把開源寫進防壟斷,是爲了讓尺子賣得出去

  3. 熱線比公約先出現,因爲事故比立法快