最新一期 Google AI: Release Notes 节目(以及 Koray 近期在 Google I/O 和其他场合的一贯核心论述), Koray Kavukcuoglu 关于 “如何构建 AGI” 的更全面、更详细的观点清单。 他的观点可以归纳为以下四个核心维度: 1. 技术路线:AGI 的“新公式” Koray 认为,仅仅依靠堆砌算力(Scale)和更多的数据已经不足以通向 AGI,未来的关键在于架构的革新。 强化学习 (RL) 是核心差异化: 他反复强调,DeepMind 的核心优势在于强化学习(Reinforcement Learning)。AGI 不能只通过“监督学习”(模仿人类现有的数据)来实现,因为人类数据是有上限的。 超越人类数据 (Self-Play): 必须通过 AI 的“自我对弈”和模拟(类似 AlphaGo),让 AI 在没有人类数据的领域也能通过试错来学习。这是 AI 能够超越人类水平的关键。 慢思考 (System 2 Thinking): 目前的 LLM 反应太快,属于“直觉型”思考。AGI 需要具备“慢思考”能力,即在推理时 (Inference Time) 花费计算资源进行搜索、规划和验证,然后再给出答案。 搜索与规划 (Search & Planning): 模型需要在回答问题前,在脑海中构建各种可能性的路径树,并搜索最优解。这是从“概率生成”向“逻辑推理”的转变。 2. AGI 的定义与能力:从“聊天”到“科学发现” Koray 对 AGI 的定义非常务实且偏向科学领域,他认为聊天机器人只是 AGI 的表象。 创造新知识 (Creating New Knowledge): 真正的 AGI 不应只是总结互联网上已有的知识,而必须具备发现新知识的能力。他举例说明,AlphaFold(预测蛋白质结构)和 GNoME(发现新材料)才是 AGI 应有的样子——解决人类尚未解决的问题。 通用性 (Generalization): AGI 必须能够将在一个领域学到的推理能力,迁移到全新的、从未见过的领域中去,而不是针对每个任务单独训练一个模型。 工具使用与行动 (Agents): AGI 需要从被动的“问答者”转变为主动的“行动者”。它需要能够熟练使用软件工具、编写代码并执行复杂的多步骤任务。 3. 数据与训练:质量胜于数量 世界模型 (World Models): AI 需要不仅仅理解语言(文字),还需要理解物理世界运作的规律。这就是为什么要引入多模态(视频、音频、动作)数据,构建一个能理解因果关系的“世界模型”。 合成数据 (Synthetic Data): 由于高质量的人类数据正在枯竭,Koray 认为未来训练模型的关键在于利用 AI 自己生成的高质量、经过验证的合成数据(这也是强化学习的一环)。 4. 落地与安全:负责任地构建 可靠性是红线: 对于科学研究和编程等领域,AI 的幻觉(胡说八道)是不可接受的。通过引入搜索和验证机制(Verifiers),目的是将 AI 的错误率降低到极低水平,使其可用于严肃的工程和科学工作。 与产品结合: 他目前的重点是将 DeepMind 实验室里的“黑科技”(如 AlphaGo 级别的推理能力)无缝整合进 Google 的消费者产品(如 Gemini)中,让普通开发者也能调用这种强大的推理能力。 总结来说,Koray 的核心哲学是: 不要指望模型仅仅因为“读”了更多的书就自然变得有逻辑。必须教模型如何像数学家或科学家一样去思考(推理、验证、搜索),这才是通往通用人工智能(AGI)的正确道路。

Koray KavukcuogluCTO, Google DeepMind

观点原文

最新一期 Google AI: Release Notes 节目(以及 Koray 近期在 Google I/O 和其他场合的一贯核心论述), Koray Kavukcuoglu 关于 “如何构建 AGI” 的更全面、更详细的观点清单。

他的观点可以归纳为以下四个核心维度:

  1. 技术路线:AGI 的“新公式”

Koray 认为,仅仅依靠堆砌算力(Scale)和更多的数据已经不足以通向 AGI,未来的关键在于架构的革新。

强化学习 (RL) 是核心差异化: 他反复强调,DeepMind 的核心优势在于强化学习(Reinforcement Learning)。AGI 不能只通过“监督学习”(模仿人类现有的数据)来实现,因为人类数据是有上限的。

超越人类数据 (Self-Play): 必须通过 AI 的“自我对弈”和模拟(类似 AlphaGo),让 AI 在没有人类数据的领域也能通过试错来学习。这是 AI 能够超越人类水平的关键。

慢思考 (System 2 Thinking): 目前的 LLM 反应太快,属于“直觉型”思考。AGI 需要具备“慢思考”能力,即在推理时 (Inference Time) 花费计算资源进行搜索、规划和验证,然后再给出答案。

搜索与规划 (Search & Planning): 模型需要在回答问题前,在脑海中构建各种可能性的路径树,并搜索最优解。这是从“概率生成”向“逻辑推理”的转变。

  1. AGI 的定义与能力:从“聊天”到“科学发现”

Koray 对 AGI 的定义非常务实且偏向科学领域,他认为聊天机器人只是 AGI 的表象。

创造新知识 (Creating New Knowledge): 真正的 AGI 不应只是总结互联网上已有的知识,而必须具备发现新知识的能力。他举例说明,AlphaFold(预测蛋白质结构)和 GNoME(发现新材料)才是 AGI 应有的样子——解决人类尚未解决的问题。

通用性 (Generalization): AGI 必须能够将在一个领域学到的推理能力,迁移到全新的、从未见过的领域中去,而不是针对每个任务单独训练一个模型。

工具使用与行动 (Agents): AGI 需要从被动的“问答者”转变为主动的“行动者”。它需要能够熟练使用软件工具、编写代码并执行复杂的多步骤任务。

  1. 数据与训练:质量胜于数量

世界模型 (World Models): AI 需要不仅仅理解语言(文字),还需要理解物理世界运作的规律。这就是为什么要引入多模态(视频、音频、动作)数据,构建一个能理解因果关系的“世界模型”。

合成数据 (Synthetic Data): 由于高质量的人类数据正在枯竭,Koray 认为未来训练模型的关键在于利用 AI 自己生成的高质量、经过验证的合成数据(这也是强化学习的一环)。

  1. 落地与安全:负责任地构建

可靠性是红线: 对于科学研究和编程等领域,AI 的幻觉(胡说八道)是不可接受的。通过引入搜索和验证机制(Verifiers),目的是将 AI 的错误率降低到极低水平,使其可用于严肃的工程和科学工作。

与产品结合: 他目前的重点是将 DeepMind 实验室里的“黑科技”(如 AlphaGo 级别的推理能力)无缝整合进 Google 的消费者产品(如 Gemini)中,让普通开发者也能调用这种强大的推理能力。

总结来说,Koray 的核心哲学是: 不要指望模型仅仅因为“读”了更多的书就自然变得有逻辑。必须教模型如何像数学家或科学家一样去思考(推理、验证、搜索),这才是通往通用人工智能(AGI)的正确道路。

Google

相关观点