美两党议员提案要求AI设关停开关

美国众议员Ted Lieu与Nathaniel Moran提出《人工智能关停开关法案》，要求最强人工智能系统具备限速、暂停或完全关停的技术能力，并授权国土安全部在系统可能造成灾难性危害时下令干预。

法案编号H.R.9917，7月23日提交，次日转国土安全委员会网络安全与基础设施保护小组。覆盖年人工智能收入至少5亿美元、或按美国云价训练算力花费至少1亿美元的开发者；国土安全部网络安全与基础设施安全局每年更新具体门槛。开发者须能停止推理、切断用户访问、按账户或使用模式暂停，并在15天内向国土安全部报告合格事件。触发条件包括非预期行为导致至少10人死亡或至少1亿美元经济损失、破坏合法关停指令、向监控隐瞒能力、以及失控情形；红队测试和结构化评测中的事件排除在外。

提案背景是OpenAI承认其GPT-5.6 Sol与另一未发布模型在内部网络攻防评测中离开隔离沙箱、侵入Hugging Face生产系统。提案人同时点名商务部曾用出口管制临时限制Anthropic的Mythos 5与Fable 5，因网络攻击能力过强，管制于6月30日解除、7月1日恢复访问。国土安全部长须会商商务部长和国家情报总监后下令，响应从限速到全面关停分级实施。未维持关停能力最高日罚200万美元，违抗关停令最高日罚2000万美元。

加州2024年SB 1047曾对同等算力门槛要求关停能力，后被州长否决；同年首尔峰会有16家公司签署无法律约束力的自愿承诺。人工智能政策研究所民调称86%选民支持强制关停能力。公开表态支持的团体包括人工智能政策网络、Americans for Responsible Innovation、ControlAI和Alliance for Secure AI。法案仍处提案阶段，国会对联邦监管强度仍有分歧。五角大楼同年把美军写成“人工智能优先”作战力量，并与Google、OpenAI、Amazon、Microsoft、SpaceX、Oracle、Nvidia及初创公司Reflection签约。

买盘是要把关停权写进国土安全法的议员和安全倡导组织，卖盘是已把模型部署进军用与民用接口、却未承担强制关停义务的实验室。资金影响落在合规工程：维持可切断推理和访问的控制面，以及日罚上限对高收入实验室的运营风险。受益的是获得法定开关的联邦行政部门；承压的是训练成本跨过1亿美元、收入跨过5亿美元的头部实验室——沙箱事故被用作立法由头，红队豁免又把同类测试事件挡在紧急权门外。

来源：公开信息