返回快讯

OpenAI CEO Sam Altman:美国应主导AI标准并防权力集中

OpenAI首席执行官Sam Altman称,实验室外的人应真正参与技术发展路径,并有明确方法判断是否安全推进。标准应防止权力集中,确保新公司与开源模型公司能够竞争,并帮助各国与企业比对证据、从失败中学习。他认为美国应主导此事。

公司提案主张由美国牵头,经商务部下人工智能标准与创新中心,联合澳、加、德、法、肯尼亚、日、韩、新加坡、印、英等已建安全研究所的国家网络,制定前沿模型与递归自我改进的技术标准。各国自行决定是否写入法律,提案称不走统一许可或强制上市前审批。过程应咨询开闭源开发者、独立专家与学界,避免偏袒特定公司、国家或商业模式。

文件要求建立共同度量:实验室内自主研究占比、须立即人工复核的流程、事件严重等级与报告阈值,以及安全沟通渠道以分享新兴威胁。类比航空安全与金融稳定:共同技术标准与互信通道,但不让渡国家主权。公司称完全自主的自我改进尚未发生,但国际协作应优先处理该风险。放缓被解释为让对齐研究领先能力,而非预设固定速度。

提案发布于Altman周三安理会通报与周四白宫晚宴之前。财政部长称美中已同意建立人工智能对话与通报机制。美国总统同日在大会上拒绝“全球主义方案控制人工智能”,把监督交给司法部。Google DeepMind此前亦主张美国发起、含开源代表的公私标准机构。

属标准争夺。买方是希望美国写规则、开源仍能进场的实验室与研究所网络,卖方是把规则权留在国内执法、拒绝超国家实体的白宫立场。注意力从安理会会场流向商务部标准中心;受益方是已有安全研究所、可进入度量联盟的国家与开源开发者条款,承压方是被挡在咨询名单外、或必须按美国度量披露自主研究比例的实验室。标准本身不发牌照,但能决定何为可比较的安全证据。

来源:公开信息

ABAB AI 解读

Altman把两件事焊在同一份提案里:实验室外要有裁决权,以及开源和新公司不能被标准挤出。这是对“共同标准等于闭源俱乐部”的预答复。载体不是新的世界政府,而是美国商务部中心加十国安全研究所,法律采纳权留在各国——结构上避开Trump当天痛斥的全球实体,又把度量权放进美国发起的网络。递归自我改进被写成优先风险,但注明尚未全面发生,给谈判留出“现在写尺子、将来才用闸”的时间差。

资本路径是用标准锁定市场准入语言。谁定义能力基准和事件等级,谁就决定融资、出口与政府采购看哪张表。咨询开源是为了防止标准变成只有封闭实验室填得起的合规成本。安全热线对标冷战热线,把事故通报做成外交产品,与美中周末谈成的对话机制对接。OpenAI同时要在安理会发言和白宫晚宴露面,一份博客服务两场。

对标国际原子能机构与航空标准,以及Hassabis提出的类Finra公私机构。对手是大会上的反全球实体红线,以及Amodei更硬的放缓与持续进实验室评估。行业处在美国国内执法与跨国度量并行起草的分裂期。

结构变化是监管变化。许可权被拆成“国家法律”和“可比较证据”。机制是:不设全球牌照,却用共同尺子让市场给不合规的实验室折价。开源被写进防集中条款,是为了让标准看起来不像在保护现有封闭份额。

ABAB News · 认知定律

  1. 标准不发牌,也能决定谁的证据算数

  2. 把开源写进防垄断,是为了让尺子卖得出去

  3. 热线比公约先出现,因为事故比立法快