这就是为什么上下文工程(context engineering)如此重要。 我们刚刚花了 2 个小时,仅仅围绕一种问题类型,讨论一个智能体究竟应该依赖自身的内部知识,还是尝试在数据中寻找相关上下文。而在数百个测试用例中,我们只讨论完了 2 个。 甚至连参与这次头脑风暴的人,也无法就“在这种情况下,人类会怎么做”达成一致。这里根本不存在唯一正确的答案,而且答案始终是高度依赖具体情境、并且因客户而异的。 上下文工程中的一切,都是在多个维度之间做取舍: 你希望智能体多快给出答案? 你希望用户需要多少来回交互? 在尝试回答问题之前,它应该先做多少准备工作? 它如何判断自己已经拥有足够完整的来源材料来回答问题? 给出错误答案的风险有多高?等等。 你在其中任何一个维度上做出的决定,都会在另一个维度上产生后果。没有免费的午餐。这正是为什么构建 AI 智能体如此疯狂、也如此困难。 这也凸显了一个事实:在 LLM 之上,仍然蕴藏着巨大的价值空间。把这些决策做对,直接决定了产品价值主张的质量。 Here’s why context engineering is such a big deal. We just spent 2 hours debating when an agent should rely on its internal knowledge vs. trying to find relevant context within data for just one type of question. We got through 2 test cases of hundreds. Even the people involved in the brainstorm couldn’t all agree on what they would expect humans to do in this situation. There truly was no right answer, and it’s always context specific customer by customer. Everything in context engineering is a tradeoff between a variety of factors: how fast do you want the agent to answer a question, how much back and forth interaction do you want to require for the user, how much work should it do before trying to answer a question, how does it know it has the exhaustive source material to answer the question, what’s the risk level of the wrong answer, and so on. Every decision you make on one of these dimensions has a consequence on the other end. There’s no free lunch. This is why building AI agents is so wild. It also highlights how much value there is above the LLM layer. Getting these decisions right directly relates to the quality of the value proposition.

Aaron LevieCo-founder & CEO of Box
目录

观点原文

这就是为什么上下文工程(context engineering)如此重要。

我们刚刚花了 2 个小时,仅仅围绕一种问题类型,讨论一个智能体究竟应该依赖自身的内部知识,还是尝试在数据中寻找相关上下文。而在数百个测试用例中,我们只讨论完了 2 个。

甚至连参与这次头脑风暴的人,也无法就“在这种情况下,人类会怎么做”达成一致。这里根本不存在唯一正确的答案,而且答案始终是高度依赖具体情境、并且因客户而异的。

上下文工程中的一切,都是在多个维度之间做取舍:

你希望智能体多快给出答案?

你希望用户需要多少来回交互?

在尝试回答问题之前,它应该先做多少准备工作?

它如何判断自己已经拥有足够完整的来源材料来回答问题?

给出错误答案的风险有多高?等等。

你在其中任何一个维度上做出的决定,都会在另一个维度上产生后果。没有免费的午餐。这正是为什么构建 AI 智能体如此疯狂、也如此困难。

这也凸显了一个事实:在 LLM 之上,仍然蕴藏着巨大的价值空间。把这些决策做对,直接决定了产品价值主张的质量。

Here’s why context engineering is such a big deal.

We just spent 2 hours debating when an agent should rely on its internal knowledge vs. trying to find relevant context within data for just one type of question. We got through 2 test cases of hundreds.

Even the people involved in the brainstorm couldn’t all agree on what they would expect humans to do in this situation. There truly was no right answer, and it’s always context specific customer by customer.

Everything in context engineering is a tradeoff between a variety of factors: how fast do you want the agent to answer a question, how much back and forth interaction do you want to require for the user, how much work should it do before trying to answer a question, how does it know it has the exhaustive source material to answer the question, what’s the risk level of the wrong answer, and so on.

Every decision you make on one of these dimensions has a consequence on the other end. There’s no free lunch. This is why building AI agents is so wild.

It also highlights how much value there is above the LLM layer. Getting these decisions right directly relates to the quality of the value proposition.

ABAB AI 解读

1️⃣ 上下文工程=AI 时代的“产品哲学”

这段话点破了一个被严重低估的事实:模型能力不是瓶颈,如何“决定什么时候用什么信息”才是。

LLM 本身只是一个强大的“推理器”,而上下文工程决定了它:

  • 什么时候该自信回答
  • 什么时候该去查
  • 什么时候该追问
  • 什么时候该拒答

这本质上是在编码判断力。

2️⃣ 没有标准答案,才是问题的本质

2 小时讨论、只过 2 个测试用例,而且连专家都无法统一“人类该怎么做”,说明:这个问题不是技术问题,而是价值判断问题。

每个客户、每个场景,对:速度、准确性、风险、交互成本的权重完全不同。这意味着:不存在“通用最优解”。

3️⃣ 所谓“权衡”,其实是在定价风险

文中列出的每一个维度,背后都是一个商业决策:

  • 快 → 更高幻觉风险
  • 慢 → 更高用户流失
  • 多查资料 → 成本上升
  • 少查资料 → 错误概率上升
  • 少交互 → 理解不足
  • 多交互 → 使用门槛提高

上下文工程就是在为错误、延迟、摩擦定价。

4️⃣ “没有免费的午餐”=竞争壁垒开始出现

这句话非常关键:任何一个选择,都会在别处付出代价。

这意味着:

  • 你无法靠“堆工程”解决
  • 你无法靠“更大模型”解决
  • 你只能靠更好的判断解决

而判断,是无法商品化的。

5️⃣ 为什么说“真正的价值在 LLM 之上”

这直接戳破一个行业幻觉:

  • 模型会迅速趋同
  • API 会迅速降价
  • 算力会被资本抹平

但:上下文决策逻辑 = 产品独特性 = 护城河

两个产品用同一个模型,体验可以天差地别。

6️⃣ AI Agent 的“疯狂”之处在于:它像组织,而不是软件

构建 Agent,其实是在做一件极其反直觉的事:不是写确定性代码,而是在定义一套决策秩序

这和:公司如何授权、员工何时请示、风险如何上报是同构问题。

一句话封顶

上下文工程不是让 AI 更聪明,而是决定它在什么情况下“该聪明、该谨慎、该闭嘴”;而这套判断力,正是 AI 产品真正不可复制的价值所在。

AI

相关观点