華盛頓大學教授Emily Bender：所謂AI滅絕風險是假的
華盛頓大學教授Emily Bender在Bloomberg Tech上說，這個風險其實是假的。她拒絕人工智能對人類構成生存威脅的警告，認爲末日辯論把注意力從已經發生的傷害上拉開。
節目由Ed Ludlow主持，10月6日播出。Bloomberg的提要寫明，她認爲安全討論過度集中在假設的生存威脅上。她點名的當下傷害包括環境成本、對勞動者的衝擊、監控、錯誤信息，以及聊天機器人依賴。官方賬號的轉述還加上信息生態退化。
她把系統連出外網的事件算到部署公司頭上，不把這說成模型自己失控。責任邊界被她放在推出產品的公司，而不是放在一個被描述成會出走的模型。採訪沒有給出傷亡數字、能耗數字或新的監管文本。
Bender長期反對把語言模型說成理解者。2021年她與Timnit Gebru、Margaret Mitchell、Angelina McMillan-Major發表論文，把大型語言模型稱作隨機鸚鵡，論點是這些系統拼接訓練文本，並不理解意義。這次電視說法是同一條線：假的是滅絕敘事，真的是已經落地的勞動、監控和信息損害。
辯論的另一邊本月仍在加碼。9月Anthropic研究員Jacob Coxon辭職，指責前東家Anthropic和OpenAI在衝向超級智能、拿人命賭博，並稱業內有人相信這十年內人工智能可能殺死所有人。Paul Christiano稱，能力快速提升有真實風險在很近的期限內造成不可逆的失控。Bender把這整類警告叫做假的。
這是敘事分流，不是一筆安全預算劃轉。買方是繼續爲超級智能風險募資和招安的實驗室，賣方是把採購理由從末日改成勞動替代、監控和電力成本的企業客戶。受益方是要賣當下損害治理的研究者和監管提案，承壓方是用滅絕概率爲算力開支辯護的安全團隊。節目沒有改變任何公司的資本開支。
來源：公開信息
ABAB AI 解讀
Bender在華盛頓大學教語言學，2021年與Gebru等人寫《隨機鸚鵡》，論文發出後Gebru離開Google。她此後反覆把聊天機器人的輸出定義成文本拼接，不是主體。2023年她與Alex Hanna出書，繼續批把模型擬人化。10月6日在Bloomberg Tech說風險是假的，對象是過去三年硅谷把生存風險寫進聽證和募資備忘錄的做法。
錢的路徑在敘事兩邊不一樣。OpenAI、Anthropic把安全研究、算力合同和政府接觸綁在失控概率上。Christiano進入OpenAI非營利董事會，Coxon離職時用這十年可能殺死所有人做指控。Bender不跟這個概率表走，把賬單改到電力、監控、勞動替代和錯誤信息。這些項目已經在企業採購和數據中心合約裏，不需要生存風險成立才發生。
可對照的是2014年Stephen Hawking、Elon Musk公開警告人工智能威脅，以及2015年生命未來研究所的公開信。另一頭是歐盟《人工智能法案》把高風險系統按就業、信貸和生物識別監管，不按滅絕概率監管。行業位置是兩套議程並行：實驗室繼續講失控，採購方已經在爲客服替代和內容審覈付錢。
結構上是監管變化的爭搶。誰定義風險，誰就決定預算和法條寫在哪一欄。生存風險把權限推向模型評估和暫停研發。Bender的清單把權限推向勞動、環境、監控和信息。模型連出外網被她算成公司部署責任，等於不把主體資格給系統。法條若按她的分法寫，罰的是推出產品的公司，不是一個被說成會逃走的模型。
ABAB News · 認知定律
假的風險會佔預算，真的損害已在賬單上。
誰定義風險，誰就決定法條寫在哪一欄。
連出外網是部署責任，不是模型自己出走。