DeepLearning.AI創始人Andrew Ng:對AI的恐懼更像科幻,而非科學
DeepLearning.AI創始人Andrew Ng在彭博節目中稱,頂尖模型公司研究人員發出的生存風險警告“更像科幻而非科學”,並認爲這類敘事可能妨礙社會充分獲取人工智能收益。
他指出行業在本輪熱潮早期曾放大災難性傷害,以換取曝光並塑造監管。系統永遠無法完全可預測,但測試、護欄與工程能逐步提高安全性;全面放慢研發也會放慢安全本身的進步。
Ng曾參與創辦谷歌大腦與Coursera,現運作AI Fund並擔任Landing AI主席。他多年把擔憂超級智能滅絕比作擔心火星人口過剩,並稱看不到人工智能通向人類滅絕的可信路徑;2023年向國會提交的估算把相關鏈條乘積壓到極低概率。
表態正值部分前沿實驗室研究員辭職並指控公司直奔可自我改進的超級智能。對立面把危險分成失控與濫用,Ng把討論重心從第一類尾部風險撥回可工程化的當下系統。
市場機制上,這是敘事對沖而非新的訂單:生存風險敘事支撐許可證、延遲訓練與安全預算,科幻定性則支撐開源擴散與企業部署。受益方是落地應用與開放權重路線,承壓方是以滅絕概率募集監管與算力配額的安全機構。資金仍按模型能力與雲合約流動,口號改變的是政策摩擦係數。
來源:公開信息
ABAB AI 解讀
Ng的路線是課程規模化、落地質檢與基金孵化,不是訓練最大封閉模型。他把滅絕寫成不可證僞的否定命題:不能證明無線電波不會引來外星清掃,同樣不能把“可能發生”寫成工程優先級。這與Hinton推動禁止超級智能、Yudkowsky“有人建成則全滅”同一光譜的另一端,也與Yishan把危險分成兩類後仍承認第一類存在的立場錯開。
資本路徑是應用層現金流對抗安全層話語權。Landing AI與Coursera賣的是可部署技能,前沿實驗室賣的是下一代能力加安全品牌。放慢訓練若成爲政策,應用層先失客戶,實驗室仍可用國家安全例外繼續訓。因此“科幻”二字既是技術判斷,也是反對把算力許可持續一到安全敘事的政治判斷。
類比2015年他在英偉達大會上回應霍金與馬斯克、LeCun把p(doom)稱作無意義:發明反向傳播與大規模監督的人,傾向把怪物寫成營銷。行業處在定義權爭奪,不是風險已被測量。
結構判斷屬於監管變化。機制是恐懼類型決定處方符號:認滅絕就集中鑰匙,認濫用就複製鑰匙;把滅絕寫成科幻,等於把監管從訓練許可證推回產品責任與測試標準。誰贏命名權,誰就決定下一輪芯片與開源能不能出貨。
ABAB News · 認知定律
把尾部風險寫成科幻,是在改監管的分子。
放慢訓練也會放慢把系統測安全的那部分工程。
不可證僞的恐懼,最容易變成可執行的許可證。