返回快讯

马斯克转发对比图嘲讽当前AI行业氛围,过去强调高深数学,现在则是持续喂数据、堆GPU

马斯克转发一张对比图,调侃过去与现在AI研发方式的差异。过去强调高深数学、统计证明与理论过程;现在则是持续喂数据、堆GPU、把模型做得更大,能用就行,甚至可能成为最强模型后继续扩大规模。

该图将“AI then”呈现为需与核方法、高斯过程等复杂理论搏斗的场景,将“AI now”简化为不断要求更多数据、GPU与Transformer直至“somehow it worked”的路径,并配有Grok相关元素。转发引发大量讨论,涉及对“苦涩教训”(compute优先于手工特征)的认同与对scaling极限的争论。

情绪与资本同步流向可规模化路径。资金与算力持续集中于数据与GPU堆叠策略,理论驱动型研究相对承压;受益方为掌握大规模训练资源的玩家,传统注重证明与可解释性的学术路径面临边缘化压力。

来源:公开信息

ABAB AI 解读

AI研究范式在过去十年发生根本转向。早期依赖核方法、贝叶斯方法与严格统计保证,强调可证明性与过程严谨;当前主流被Rich Sutton提出的“苦涩教训”主导,即通用方法叠加大规模算力最终战胜精心设计的特征工程。

资本路径清晰:资金从理论与算法创新,大规模转向数据中心、GPU集群与更大数据集。xAI、OpenAI、Google等均以“更大模型+更多数据”作为核心竞争策略,动机在于实证表现(benchmark与实际可用性)已取代理论优雅成为主要评价标准。

类似案例可见深度学习对传统机器学习的全面替代,以及当前从纯语言模型向多模态与世界模型的进一步扩张。行业处于“规模仍是最可靠杠杆”的阶段,理论工作更多服务于事后解释而非前置设计。

本质属于技术替代。机制在于当算力与数据成本下降到一定阈值,暴力搜索与规模扩展的边际收益持续高于精细理论设计,导致整个研发文化从“证明正确”转向“先跑通再解释”。

ABAB News · 认知定律

  1. 能跑通的方法,最终会击败更优雅但跑不通的方法

  2. 算力足够大时,理论门槛会被重新定义

  3. 行业真正的信仰,从“证明”转向了“scale”