返回快訊

馬斯克轉發對比圖嘲諷當前AI行業氛圍,過去強調高深數學,現在則是持續喂數據、堆GPU

馬斯克轉發一張對比圖,調侃過去與現在AI研發方式的差異。過去強調高深數學、統計證明與理論過程;現在則是持續喂數據、堆GPU、把模型做得更大,能用就行,甚至可能成爲最強模型後繼續擴大規模。

該圖將“AI then”呈現爲需與核方法、高斯過程等複雜理論搏鬥的場景,將“AI now”簡化爲不斷要求更多數據、GPU與Transformer直至“somehow it worked”的路徑,並配有Grok相關元素。轉發引發大量討論,涉及對“苦澀教訓”(compute優先於手工特徵)的認同與對scaling極限的爭論。

情緒與資本同步流向可規模化路徑。資金與算力持續集中於數據與GPU堆疊策略,理論驅動型研究相對承壓;受益方爲掌握大規模訓練資源的玩家,傳統注重證明與可解釋性的學術路徑面臨邊緣化壓力。

來源:公開信息

ABAB AI 解讀

AI研究範式在過去十年發生根本轉向。早期依賴核方法、貝葉斯方法與嚴格統計保證,強調可證明性與過程嚴謹;當前主流被Rich Sutton提出的“苦澀教訓”主導,即通用方法疊加大規模算力最終戰勝精心設計的特徵工程。

資本路徑清晰:資金從理論與算法創新,大規模轉向數據中心、GPU集羣與更大數據集。xAI、OpenAI、Google等均以“更大模型+更多數據”作爲核心競爭策略,動機在於實證表現(benchmark與實際可用性)已取代理論優雅成爲主要評價標準。

類似案例可見深度學習對傳統機器學習的全面替代,以及當前從純語言模型向多模態與世界模型的進一步擴張。行業處於“規模仍是最可靠槓桿”的階段,理論工作更多服務於事後解釋而非前置設計。

本質屬於技術替代。機制在於當算力與數據成本下降到一定閾值,暴力搜索與規模擴展的邊際收益持續高於精細理論設計,導致整個研發文化從“證明正確”轉向“先跑通再解釋”。

ABAB News · 認知定律

  1. 能跑通的方法,最終會擊敗更優雅但跑不通的方法

  2. 算力足夠大時,理論門檻會被重新定義

  3. 行業真正的信仰,從“證明”轉向了“scale”