Sam Altman：AI兩大風險是失控與權力集中

OpenAI首席執行官Sam Altman在與David Senra的對話中表示，他最擔憂的AI兩大風險是：AI變得過於強大導致人類失去控制，以及權力集中於一人、一家公司或一個模型。

他強調正確路徑應是讓人們深度掌控未來並獲得賦能，認爲將所有信任交給模型並讓其決策世界是反人類的。

部分AI領域人士主張以治癒疾病、降低成本換取人們放棄自主權與影響力，並在安全名義下加劇不平等，Altman稱這是糟糕的銷售話術。

Altman預期AI能力推進速度將快於社會與經濟吸收能力，人類習慣與制度慣性會減緩過渡，同時人類連接將變得更有價值，AI將推動小企業大量湧現。

OpenAI定位爲平臺，提供直接接口與API，策略上需主動淘汰好想法以集中資源於偉大想法，公司早期在無客戶、無產品、無既定玩法的情況下起步。

AI安全討論正從技術對齊轉向權力結構，資金與政策資源流向開放賦能與平臺化路徑，受益方爲廣泛用戶與小企業，承壓方爲主張集中控制的路線，事件驅動對AI治理中人類代理權的優先排序。

來源：公開信息