返回快訊

Andrej Karpathy稱AI能力認知差距正形成漏斗

前OpenAI研究員、現Anthropic相關人士Andrej Karpathy發文表示,人們對大模型能力的理解差距正在擴大,已從兩組人各說各話轉變爲尖銳漏斗。

他粗估約60億人(全球約75%)幾乎未接觸過大語言模型;約10億至20億人偶爾使用免費版ChatGPT類產品,將其視爲更好的搜索或寫作輔助,許多非數學與編程領域的專業人士也處於此層,對進展僅有間接理解。

約2000萬人(約0.2%)在數學與編程領域重度使用前沿模型,親眼看到原本需數週或數月的項目可通過提示詞由Agent完成,包括構建、翻譯與反編譯應用等,這一變化在過去一年內迅速發生。

最頂層約5000人可接觸實驗室內部更強系統,外部已見預覽:數千Agent協作數週完成大型軟件項目、發現零日漏洞、以機器速度進行網絡攻防、推進數學前沿等,人類審查與理解已開始滯後。

差距由三方面驅動:問題規模與野心決定影響(一段話可答的問題難見真本事);能力在可驗證且高價值領域(編程、數學)因強化學習獎勵明確而進展更快,廠商投入更多;免費、付費與內部系統訪問層級差異顯著。

在AI能力擴散中,前沿能力集中於可驗證高價值領域與內部訪問,重度技術用戶與實驗室人員受益於垂直提升,普通免費用戶與非技術專業人士僅見有限進步,認知與使用差距持續拉大。

Karpathy強調,多數人仍將AI視爲笨拙聊天機器人,而少數專業人士正經歷能力曲線陡升的眩暈。

來源:公開信息

ABAB AI 解讀

Andrej Karpathy此前在OpenAI參與GPT系列研發,後公開評論模型能力與訓練動態,此次重發並更新四月推文,將理解差距從兩組對立描述爲四層漏斗,歷史上他多次強調可驗證獎勵領域進展更快,並指出人類在易度量任務中正成爲瓶頸。

資本與技術路徑是廠商優先投入編程與數學等可自動驗證、企業付費意願高的領域進行強化學習,動機是最大化收入與可擴展進步,同時內部系統與外部訪問形成層級差,導致能力感知高度分層。

這類似於其他技術擴散中早期採用者與大衆之間的認知鴻溝,也接近歷史上自動化與軟件工具在專業領域先突破、再緩慢外溢的模式;當前處於前沿Agent能力在技術用戶中快速顯現、大衆仍停留免費層的階段。

本質屬於技術替代與資本集中的交叉:可驗證高價值領域因獎勵明確與商業回報吸引最多資源,機制上由強化學習可擴展性與訪問層級共同驅動,使能力進步在漏斗頂端加速,而底部進展緩慢。

ABAB News · 認知定律

  1. 60億人沒碰過,5000人見過真本事

  2. 可驗證的地方進步快,難判定的地方慢

  3. 免費版看到的,離前沿差好幾層