华盛顿大学教授Emily Bender:所谓AI灭绝风险是假的
华盛顿大学教授Emily Bender在Bloomberg Tech上说,这个风险其实是假的。她拒绝人工智能对人类构成生存威胁的警告,认为末日辩论把注意力从已经发生的伤害上拉开。
节目由Ed Ludlow主持,10月6日播出。Bloomberg的提要写明,她认为安全讨论过度集中在假设的生存威胁上。她点名的当下伤害包括环境成本、对劳动者的冲击、监控、错误信息,以及聊天机器人依赖。官方账号的转述还加上信息生态退化。
她把系统连出外网的事件算到部署公司头上,不把这说成模型自己失控。责任边界被她放在推出产品的公司,而不是放在一个被描述成会出走的模型。采访没有给出伤亡数字、能耗数字或新的监管文本。
Bender长期反对把语言模型说成理解者。2021年她与Timnit Gebru、Margaret Mitchell、Angelina McMillan-Major发表论文,把大型语言模型称作随机鹦鹉,论点是这些系统拼接训练文本,并不理解意义。这次电视说法是同一条线:假的是灭绝叙事,真的是已经落地的劳动、监控和信息损害。
辩论的另一边本月仍在加码。9月Anthropic研究员Jacob Coxon辞职,指责前东家Anthropic和OpenAI在冲向超级智能、拿人命赌博,并称业内有人相信这十年内人工智能可能杀死所有人。Paul Christiano称,能力快速提升有真实风险在很近的期限内造成不可逆的失控。Bender把这整类警告叫做假的。
这是叙事分流,不是一笔安全预算划转。买方是继续为超级智能风险募资和招安的实验室,卖方是把采购理由从末日改成劳动替代、监控和电力成本的企业客户。受益方是要卖当下损害治理的研究者和监管提案,承压方是用灭绝概率为算力开支辩护的安全团队。节目没有改变任何公司的资本开支。
来源:公开信息
ABAB AI 解读
Bender在华盛顿大学教语言学,2021年与Gebru等人写《随机鹦鹉》,论文发出后Gebru离开Google。她此后反复把聊天机器人的输出定义成文本拼接,不是主体。2023年她与Alex Hanna出书,继续批把模型拟人化。10月6日在Bloomberg Tech说风险是假的,对象是过去三年硅谷把生存风险写进听证和募资备忘录的做法。
钱的路径在叙事两边不一样。OpenAI、Anthropic把安全研究、算力合同和政府接触绑在失控概率上。Christiano进入OpenAI非营利董事会,Coxon离职时用这十年可能杀死所有人做指控。Bender不跟这个概率表走,把账单改到电力、监控、劳动替代和错误信息。这些项目已经在企业采购和数据中心合约里,不需要生存风险成立才发生。
可对照的是2014年Stephen Hawking、Elon Musk公开警告人工智能威胁,以及2015年生命未来研究所的公开信。另一头是欧盟《人工智能法案》把高风险系统按就业、信贷和生物识别监管,不按灭绝概率监管。行业位置是两套议程并行:实验室继续讲失控,采购方已经在为客服替代和内容审核付钱。
结构上是监管变化的争抢。谁定义风险,谁就决定预算和法条写在哪一栏。生存风险把权限推向模型评估和暂停研发。Bender的清单把权限推向劳动、环境、监控和信息。模型连出外网被她算成公司部署责任,等于不把主体资格给系统。法条若按她的分法写,罚的是推出产品的公司,不是一个被说成会逃走的模型。
ABAB News · 认知定律
假的风险会占预算,真的损害已在账单上。
谁定义风险,谁就决定法条写在哪一栏。
连出外网是部署责任,不是模型自己出走。