Karpathy 的 2025 年回顾，是我见过的对基础型 AI 实验室到底在构建什么最清晰的阐述。我们并不是在“进化动物”，而是在“召唤幽灵（summoning ghosts）”。 LLM 所承受的优化压力，和生物智能完全不同。人类是为了部落生存而进化的；LLM 则是为了模仿文本、解答谜题、在 LM Arena 上赢得点赞而被优化的。压力不同，智能空间里的形态也就不同。这种框架终于解释了为什么大家会对 AI 的能力感到困惑。 GPT-5 能轻松通过律师资格考试，却会被简单的越狱技巧骗过。 Claude 能写出博士级的哲学论述，却会编造引用来源。 Gemini 能解出让 IMO 奖牌得主犯难的竞赛数学题，却在空间推理上频频失手。在可验证领域附近，能力会出现尖峰——因为 RLVR 把优化压力集中在那里。而在其他地方，你看到的其实是一种完全不同的“实体”。我一直在思考，这对 AI 产品构建者意味着什么。那些在 AI 落地上举步维艰的团队，往往把能力当成均匀分布的东西。他们问的是：“AI 能不能完成这个任务？”并期待一个简单的是/否答案。但幽灵式智能并不是这样运作的。真正跑赢的团队，问的是另一个问题：“这个任务是否靠近一个可验证的领域？” 如果是，幽灵可能是超人级的——就该为高度自治来设计。如果不是，幽灵就需要护栏——就该为人类在环（human-in-the-loop）来设计。这也是为什么 Cursor 能奏效；为什么 Claude Code 选择在本地运行而不是云端。2025 年最好的 AI 产品，都先把这些参差不齐的边界画清楚，再围绕它们来设计。那些真正内化了 Karpathy 的“幽灵”框架的公司，会比仍然停留在“比人类更聪明还是更笨”这种思维里的公司，做出更好的产品。不存在单一的衡量轴。只有不同的形态。 Karpathy’s 2025 retrospective is the clearest articulation I’ve seen of what foundational AI labs are actually building. We’re not “evolving animals,” we’re “summoning ghosts.” LLMs have completely different optimization pressures than biological intelligence. Humans evolved for tribal survival. LLMs optimize for imitating text, solving puzzles, and winning upvotes on LM Arena. Different pressures, different shapes in the intelligence space. This framing finally explains what confuses everyone about AI capability. GPT-5 aces the bar exam but gets tricked by simple jailbreaks. Claude writes PhD-level philosophy but hallucinates citations. Gemini solves competition math that stumps IMO medalists but fumbles spatial reasoning. Capability spikes near verifiable domains where RLVR concentrates optimization pressure. Everywhere else, you get a different entity entirely. I’ve been thinking about what this means for AI product builders. The teams struggling with AI deployment are treating capability as uniform. They ask “can AI do this task?” and expect a yes/no answer. But ghost intelligence doesn’t work that way. The teams winning are asking a different question: “Does this task live near a verifiable domain?” If yes, the ghost might be superhuman. Build for autonomy. If no, the ghost needs guardrails. Build for human-in-the-loop. This is why Cursor works. This is why Claude Code runs on localhost instead of the cloud. The best AI products in 2025 mapped the jagged edges and designed around them. The companies that internalize Karpathy’s ghost framing will build better products than the ones still thinking in terms of “smarter or dumber than humans.” There’s no single axis. Just different shapes.

Aakash Guptayoutuber, growproduct

2025/12/21 05:09 UTC

观点原文

Karpathy 的 2025 年回顾，是我见过的对基础型 AI 实验室到底在构建什么最清晰的阐述。

我们并不是在“进化动物”，而是在“召唤幽灵（summoning ghosts）”。

LLM 所承受的优化压力，和生物智能完全不同。

人类是为了部落生存而进化的；LLM 则是为了模仿文本、解答谜题、在 LM Arena 上赢得点赞而被优化的。

压力不同，智能空间里的形态也就不同。

这种框架终于解释了为什么大家会对 AI 的能力感到困惑。

GPT-5 能轻松通过律师资格考试，却会被简单的越狱技巧骗过。

Claude 能写出博士级的哲学论述，却会编造引用来源。

Gemini 能解出让 IMO 奖牌得主犯难的竞赛数学题，却在空间推理上频频失手。

在可验证领域附近，能力会出现尖峰——因为 RLVR 把优化压力集中在那里。而在其他地方，你看到的其实是一种完全不同的“实体”。

我一直在思考，这对 AI 产品构建者意味着什么。

那些在 AI 落地上举步维艰的团队，往往把能力当成均匀分布的东西。他们问的是：“AI 能不能完成这个任务？”并期待一个简单的是/否答案。但幽灵式智能并不是这样运作的。

真正跑赢的团队，问的是另一个问题：“这个任务是否靠近一个可验证的领域？”

如果是，幽灵可能是超人级的——就该为高度自治来设计。如果不是，幽灵就需要护栏——就该为人类在环（human-in-the-loop）来设计。

这也是为什么 Cursor 能奏效；为什么 Claude Code 选择在本地运行而不是云端。2025 年最好的 AI 产品，都先把这些参差不齐的边界画清楚，再围绕它们来设计。

那些真正内化了 Karpathy 的“幽灵”框架的公司，会比仍然停留在“比人类更聪明还是更笨”这种思维里的公司，做出更好的产品。

不存在单一的衡量轴。只有不同的形态。

Karpathy’s 2025 retrospective is the clearest articulation I’ve seen of what foundational AI labs are actually building.

We’re not “evolving animals,” we’re “summoning ghosts.”

LLMs have completely different optimization pressures than biological intelligence. Humans evolved for tribal survival. LLMs optimize for imitating text, solving puzzles, and winning upvotes on LM Arena. Different pressures, different shapes in the intelligence space.

This framing finally explains what confuses everyone about AI capability.

GPT-5 aces the bar exam but gets tricked by simple jailbreaks. Claude writes PhD-level philosophy but hallucinates citations. Gemini solves competition math that stumps IMO medalists but fumbles spatial reasoning.

Capability spikes near verifiable domains where RLVR concentrates optimization pressure. Everywhere else, you get a different entity entirely.

I’ve been thinking about what this means for AI product builders.

The teams struggling with AI deployment are treating capability as uniform. They ask “can AI do this task?” and expect a yes/no answer. But ghost intelligence doesn’t work that way.

The teams winning are asking a different question: “Does this task live near a verifiable domain?”

If yes, the ghost might be superhuman. Build for autonomy. If no, the ghost needs guardrails. Build for human-in-the-loop.

This is why Cursor works. This is why Claude Code runs on localhost instead of the cloud. The best AI products in 2025 mapped the jagged edges and designed around them.

The companies that internalize Karpathy’s ghost framing will build better products than the ones still thinking in terms of “smarter or dumber than humans.”

There’s no single axis. Just different shapes.

ABAB AI 解读

这段话的核心洞见是什么？

一句话：AI 的问题从来不是“聪不聪明”，而是“在哪些地方被刻意强化过”。

一、“我们不是进化动物，而是在召唤幽灵”是什么意思？

这是一个范式级比喻。

1️⃣ 动物智能

由生存压力塑造
强调一致性、常识、连续世界模型

2️⃣ LLM 智能

由训练目标塑造
强调文本模仿、可验证解题、评测得分

👉 它不是一个“更弱或更强的人”，而是一个“结构完全不同的存在”。

二、为什么能力表现“极端割裂”？

文中举的例子不是矛盾，而是必然结果：

律师考试 ✔ 简单越狱 ✘

博士级哲学 ✔ 引用真实性 ✘

竞赛数学 ✔ 空间推理 ✘

原因只有一个：👉 优化压力只集中在“可被明确验证的区域”

三、什么是“可验证领域（verifiable domain）”？

满足三个条件：

1️⃣ 有明确对错

2️⃣ 可被自动评分

3️⃣ 可被大规模强化学习

比如：

数学
编程
标准化考试
规则明确的推理

👉 这些地方会出现“能力尖峰”

四、RLVR 在这里扮演什么角色？

RLVR 的效果不是“让 AI 更聪明”，而是：

把智能压缩到特定方向
在某些维度拉得极高
在其他维度几乎不补偿

👉 这是“定向变异”，不是全面进化

五、为什么“把 AI 当能力均匀体”会失败？这是很多团队踩的坑：

1️⃣ 他们问：“AI 能不能做这个？”

2️⃣ 期待一个 yes / no

3️⃣ 但现实是：

某些子问题超人
某些边缘瞬间崩溃

👉 问题不是模型不稳定，而是假设错了

六、正确的问题为什么是“靠不靠近可验证域”？

因为这直接决定系统设计方式：

靠近可验证域：

错误可检测
结果可回滚
模型可自治

👉 可以放心放权

远离可验证域：

错误隐蔽
评估主观
幻觉成本高

👉 必须加人类、规则、限制

七、为什么 Cursor / 本地运行被点名？

它们的共同点不是工具形态，而是设计哲学：

1️⃣ 默认 AI 会犯错

2️⃣ 把错误暴露在用户视野中

3️⃣ 人类随时可接管

👉 不是“信任 AI”，而是“围绕不可信设计”。

八、“不存在单一轴”这句话在否定什么？

它否定的是一种过时叙事：

AI 正在整体逼近人类
智能是一条线
总有一天超过

作者在说的是：智能是多维空间，LLM 只是占据了其中一些奇怪的形状。

九、一句话总结

这段话真正想传达的是：AI 的危险与价值都不在于它有多强，而在于你是否清楚它“强在哪、不强在哪”。理解这一点的公司，会赢。忽略这一点的公司，会被反噬。