微軟聯合創始人Bill Gates：人工智能已足夠強大，能夠驅動造成十億人死亡的事件

微軟聯合創始人Bill Gates在NBC《Meet the Press》訪談預告片段中稱，人工智能已足夠強大，能夠驅動造成十億人死亡的事件。完整訪談定於本週末播出。被問及該技術是否強大到足以終結全體人類時，他回答稱要做到百分之百相當困難，但惡意者與最新人工智能工具的組合，是從未有過的強大武器。

他同時否定行業自我監管已經足夠，要求華盛頓立法，讓執法部門與政客進入防護與監測的討論，並把監測做成強制事項。他稱這會給行業增加一點額外負擔，但不會戲劇性放慢現有推進速度。Gates未在公開片段中給出十億死亡的具體路徑，也未點名生物、網絡或自主武器中的哪一類。

表態落在一波實驗室內部爭議之後。Anthropic普通僱員Jacob Coxon本月辭職，指責前東家Anthropic與OpenAI在加速衝向超智能。該公司首席執行官Dario Amodei隨後發文要求前沿實驗室放慢模型迭代，並稱最有效的節奏控制來自監管。OpenAI首席執行官Sam Altman與Elon Musk公開呼應減速主張。Anthropic另有報告稱，已發現國家與非國家行爲者用其模型籌劃無人機攻擊並從事危險生物研究。

Gates本人立場經歷過切換。他長期被視作人工智能樂觀派，現仍任微軟技術顧問，曾深度參與微軟與OpenAI的合作，把對話模型送進大衆產品。今年夏季他改變口徑，八月撰文稱世界尚無安全鋪開人工智能的計劃，並列舉網絡攻擊、欺詐、虛假信息以及對醫院、金融機構、電網和政府系統的規模傷害。此次把數量級提到十億，是把原先的基礎設施風險話術抬到人口規模。

市場機制上，這是監管溢價與算力擴張同時報價。賣模型、賣雲和賣芯片的一方繼續要資本開支與推理訂單；賣恐懼的一方把立法、強制監測和模型評估做成新的合規市場。資金不會因一句十億死亡撤離英偉達或微軟，更可能分流進安全評估、內容過濾、生物防護與政府合同。受益的是已有合規團隊、能把“強制監測”產品化的雲廠商和安全創業公司；承壓的是沒有遊說預算、卻必須達到同一套監測標準的開源與小實驗室。減速呼籲與全速競賽並行，真正被定價的不是死亡概率，而是誰來寫監測規則、誰來賣監測工具。

來源：公開信息