返回快讯

DeepLearning.AI创始人Andrew Ng:对AI的恐惧更像科幻,而非科学

DeepLearning.AI创始人Andrew Ng在彭博节目中称,顶尖模型公司研究人员发出的生存风险警告“更像科幻而非科学”,并认为这类叙事可能妨碍社会充分获取人工智能收益。

他指出行业在本轮热潮早期曾放大灾难性伤害,以换取曝光并塑造监管。系统永远无法完全可预测,但测试、护栏与工程能逐步提高安全性;全面放慢研发也会放慢安全本身的进步。

Ng曾参与创办谷歌大脑与Coursera,现运作AI Fund并担任Landing AI主席。他多年把担忧超级智能灭绝比作担心火星人口过剩,并称看不到人工智能通向人类灭绝的可信路径;2023年向国会提交的估算把相关链条乘积压到极低概率。

表态正值部分前沿实验室研究员辞职并指控公司直奔可自我改进的超级智能。对立面把危险分成失控与滥用,Ng把讨论重心从第一类尾部风险拨回可工程化的当下系统。

市场机制上,这是叙事对冲而非新的订单:生存风险叙事支撑许可证、延迟训练与安全预算,科幻定性则支撑开源扩散与企业部署。受益方是落地应用与开放权重路线,承压方是以灭绝概率募集监管与算力配额的安全机构。资金仍按模型能力与云合约流动,口号改变的是政策摩擦系数。

来源:公开信息

ABAB AI 解读

Ng的路线是课程规模化、落地质检与基金孵化,不是训练最大封闭模型。他把灭绝写成不可证伪的否定命题:不能证明无线电波不会引来外星清扫,同样不能把“可能发生”写成工程优先级。这与Hinton推动禁止超级智能、Yudkowsky“有人建成则全灭”同一光谱的另一端,也与Yishan把危险分成两类后仍承认第一类存在的立场错开。

资本路径是应用层现金流对抗安全层话语权。Landing AI与Coursera卖的是可部署技能,前沿实验室卖的是下一代能力加安全品牌。放慢训练若成为政策,应用层先失客户,实验室仍可用国家安全例外继续训。因此“科幻”二字既是技术判断,也是反对把算力许可持续一到安全叙事的政治判断。

类比2015年他在英伟达大会上回应霍金与马斯克、LeCun把p(doom)称作无意义:发明反向传播与大规模监督的人,倾向把怪物写成营销。行业处在定义权争夺,不是风险已被测量。

结构判断属于监管变化。机制是恐惧类型决定处方符号:认灭绝就集中钥匙,认滥用就复制钥匙;把灭绝写成科幻,等于把监管从训练许可证推回产品责任与测试标准。谁赢命名权,谁就决定下一轮芯片与开源能不能出货。

ABAB News · 认知定律

  1. 把尾部风险写成科幻,是在改监管的分子。

  2. 放慢训练也会放慢把系统测安全的那部分工程。

  3. 不可证伪的恐惧,最容易变成可执行的许可证。