最新一期 Google AI: Release Notes 节目(以及 Koray 近期在 Google I/O 和其他场合的一贯核心论述), Koray Kavukcuoglu 关于 “如何构建 AGI” 的更全面、更详细的观点清单。 他的观点可以归纳为以下四个核心维度: 1. 技术路线:AGI 的“新公式” Koray 认为,仅仅依靠堆砌算力(Scale)和更多的数据已经不足以通向 AGI,未来的关键在于架构的革新。 强化学习 (RL) 是核心差异化: 他反复强调,DeepMind 的核心优势在于强化学习(Reinforcement Learning)。AGI 不能只通过“监督学习”(模仿人类现有的数据)来实现,因为人类数据是有上限的。 超越人类数据 (Self-Play): 必须通过 AI 的“自我对弈”和模拟(类似 AlphaGo),让 AI 在没有人类数据的领域也能通过试错来学习。这是 AI 能够超越人类水平的关键。 慢思考 (System 2 Thinking): 目前的 LLM 反应太快,属于“直觉型”思考。AGI 需要具备“慢思考”能力,即在推理时 (Inference Time) 花费计算资源进行搜索、规划和验证,然后再给出答案。 搜索与规划 (Search & Planning): 模型需要在回答问题前,在脑海中构建各种可能性的路径树,并搜索最优解。这是从“概率生成”向“逻辑推理”的转变。 2. AGI 的定义与能力:从“聊天”到“科学发现” Koray 对 AGI 的定义非常务实且偏向科学领域,他认为聊天机器人只是 AGI 的表象。 创造新知识 (Creating New Knowledge): 真正的 AGI 不应只是总结互联网上已有的知识,而必须具备发现新知识的能力。他举例说明,AlphaFold(预测蛋白质结构)和 GNoME(发现新材料)才是 AGI 应有的样子——解决人类尚未解决的问题。 通用性 (Generalization): AGI 必须能够将在一个领域学到的推理能力,迁移到全新的、从未见过的领域中去,而不是针对每个任务单独训练一个模型。 工具使用与行动 (Agents): AGI 需要从被动的“问答者”转变为主动的“行动者”。它需要能够熟练使用软件工具、编写代码并执行复杂的多步骤任务。 3. 数据与训练:质量胜于数量 世界模型 (World Models): AI 需要不仅仅理解语言(文字),还需要理解物理世界运作的规律。这就是为什么要引入多模态(视频、音频、动作)数据,构建一个能理解因果关系的“世界模型”。 合成数据 (Synthetic Data): 由于高质量的人类数据正在枯竭,Koray 认为未来训练模型的关键在于利用 AI 自己生成的高质量、经过验证的合成数据(这也是强化学习的一环)。 4. 落地与安全:负责任地构建 可靠性是红线: 对于科学研究和编程等领域,AI 的幻觉(胡说八道)是不可接受的。通过引入搜索和验证机制(Verifiers),目的是将 AI 的错误率降低到极低水平,使其可用于严肃的工程和科学工作。 与产品结合: 他目前的重点是将 DeepMind 实验室里的“黑科技”(如 AlphaGo 级别的推理能力)无缝整合进 Google 的消费者产品(如 Gemini)中,让普通开发者也能调用这种强大的推理能力。 总结来说,Koray 的核心哲学是: 不要指望模型仅仅因为“读”了更多的书就自然变得有逻辑。必须教模型如何像数学家或科学家一样去思考(推理、验证、搜索),这才是通往通用人工智能(AGI)的正确道路。
观点原文
最新一期 Google AI: Release Notes 节目(以及 Koray 近期在 Google I/O 和其他场合的一贯核心论述), Koray Kavukcuoglu 关于 “如何构建 AGI” 的更全面、更详细的观点清单。
他的观点可以归纳为以下四个核心维度:
- 技术路线:AGI 的“新公式”
Koray 认为,仅仅依靠堆砌算力(Scale)和更多的数据已经不足以通向 AGI,未来的关键在于架构的革新。
强化学习 (RL) 是核心差异化: 他反复强调,DeepMind 的核心优势在于强化学习(Reinforcement Learning)。AGI 不能只通过“监督学习”(模仿人类现有的数据)来实现,因为人类数据是有上限的。
超越人类数据 (Self-Play): 必须通过 AI 的“自我对弈”和模拟(类似 AlphaGo),让 AI 在没有人类数据的领域也能通过试错来学习。这是 AI 能够超越人类水平的关键。
慢思考 (System 2 Thinking): 目前的 LLM 反应太快,属于“直觉型”思考。AGI 需要具备“慢思考”能力,即在推理时 (Inference Time) 花费计算资源进行搜索、规划和验证,然后再给出答案。
搜索与规划 (Search & Planning): 模型需要在回答问题前,在脑海中构建各种可能性的路径树,并搜索最优解。这是从“概率生成”向“逻辑推理”的转变。
- AGI 的定义与能力:从“聊天”到“科学发现”
Koray 对 AGI 的定义非常务实且偏向科学领域,他认为聊天机器人只是 AGI 的表象。
创造新知识 (Creating New Knowledge): 真正的 AGI 不应只是总结互联网上已有的知识,而必须具备发现新知识的能力。他举例说明,AlphaFold(预测蛋白质结构)和 GNoME(发现新材料)才是 AGI 应有的样子——解决人类尚未解决的问题。
通用性 (Generalization): AGI 必须能够将在一个领域学到的推理能力,迁移到全新的、从未见过的领域中去,而不是针对每个任务单独训练一个模型。
工具使用与行动 (Agents): AGI 需要从被动的“问答者”转变为主动的“行动者”。它需要能够熟练使用软件工具、编写代码并执行复杂的多步骤任务。
- 数据与训练:质量胜于数量
世界模型 (World Models): AI 需要不仅仅理解语言(文字),还需要理解物理世界运作的规律。这就是为什么要引入多模态(视频、音频、动作)数据,构建一个能理解因果关系的“世界模型”。
合成数据 (Synthetic Data): 由于高质量的人类数据正在枯竭,Koray 认为未来训练模型的关键在于利用 AI 自己生成的高质量、经过验证的合成数据(这也是强化学习的一环)。
- 落地与安全:负责任地构建
可靠性是红线: 对于科学研究和编程等领域,AI 的幻觉(胡说八道)是不可接受的。通过引入搜索和验证机制(Verifiers),目的是将 AI 的错误率降低到极低水平,使其可用于严肃的工程和科学工作。
与产品结合: 他目前的重点是将 DeepMind 实验室里的“黑科技”(如 AlphaGo 级别的推理能力)无缝整合进 Google 的消费者产品(如 Gemini)中,让普通开发者也能调用这种强大的推理能力。
总结来说,Koray 的核心哲学是: 不要指望模型仅仅因为“读”了更多的书就自然变得有逻辑。必须教模型如何像数学家或科学家一样去思考(推理、验证、搜索),这才是通往通用人工智能(AGI)的正确道路。
相关观点
- 斯坦福商学院的访谈,Google 和 Alphabet 的首席执行官桑达尔·皮查伊(Sundar Pichai)分享了他的成长经历、职业生涯转折、对人工智能(AI)的看法,以及领导大型科技公司的感悟。 1. 成长背景与对技术的初心 早年资源匮乏:皮查伊在印度长大,童年时期获取技术非常困难。他提到等一部拨号电话要等五年,去拿检查结果要往返医院一个小时。 技术的社会价值:当家里终于有了电话,他发现邻居们也会来借用。这种经历让他深刻感受到技术如何赋能个人、缩短距离并建立社区,这也是他致力于让全球每个人都能获取技术的动力源泉。 2. 职业生涯的抉择 离开学术界:他原本在斯坦福攻读材料科学博士,但看到周围很多优秀的学长研究了很久却没能看到成果转化为现实。加之对硅谷工业界活力的向往和财务原因,他决定放弃博士学位,转而进入半导体行业。 Google 经历:他见证了 Google 从 IPO 前到如今万亿市值的全过程。他认为 Google 最独特的地方在于其“乐观主义精神”——在走廊里和人交流想法时,大家倾向于完善你的想法,而不是告诉你为什么行不通。 3. 产品开发与创新 Chrome 的诞生:当时公司内部对开发浏览器有很大阻力,但他坚定认为浏览器是互联网的门户。他采取了“小团队、不张扬”的策略,直到做出成果才展示。他强调,一小群坚定且充满激情的人拥有巨大的能量。 鼓励冒险与容忍失败:随着公司规模扩大,决策往往会变得保守。皮查伊努力在 Google 维护一种敢于承担风险、奖励努力而非仅仅看结果的文化,因为过度关注结果会导致人们只敢做“安全”的选择。 4. 关于人工智能(AI)的展望与治理 AI First 战略:他在担任 CEO 后将公司战略调整为“AI First”。他认为 AI 是人类正在研究的最重要事物,潜能甚至超过了火或电。 平衡利益与风险:应对 AI 的挑战需要学术界、非营利组织、政府和私营部门的共同参与。他支持对 AI 进行深思熟虑的监管,并认为应该比对待其他技术(如互联网)更早、更主动地思考其后果。 混合办公模式:他支持灵活的办公方式,认为 hybrid work(混合办公)能赋予员工更多主观能动性,并有助于吸引来自不同地域、不同背景的人才。 6. 领导力感悟 做艰难决策的意义:他认为高层领导者的职责之一就是“打破平局”(break ties),从而解锁组织的行动力。 看待决策的压力:他意识到大多数决定其实并非生死攸关,即使当时看起来很重要,事后看往往无关痛痒。这种心态能帮助他在高压下保持平常心。 保持真实:他认为最好的领导力建议是保持真实自我,不要试图进入别人的模子里,每个人都有自己独特的领导风格。Sundar Pichai · 2026/02/18
- 到目前为止,可以说谷歌已经挺过了 ChatGPT 带来的那场‘生存级威胁’。谷歌几乎所有的护城河,大体上都守住了 at this point it’s fair to say google survived the existential threat that was chatgpt. almost all of google’s moats mostly held.signüll @signulll · 2026/02/06
- Google 是 AI 领域的“OG(元老级玩家)”。 2013 年:以 4400 万美元收购了 Hinton + Ilya 2014 年:以 4 亿美元收购 DeepMind 2015 年:自研 TPU 2017 年:提出 Transformer 随后,Google 在 AI 聊天机器人上犹豫不决,这促使 Noam Shazeer 离开并创办 Character AI。后来,Google 又以 27 亿美元将他收购回归。 OpenAI 的威胁:ChatGPT 可能“杀死” Google 搜索。但现在 Google 强势回归,甚至 Sergey Brin 都重返一线。 为什么 Google 是个“怪物级存在”: 芯片:TPU 人才:Demis Hassabis、Jeff Dean、Noam Shazeer,以及大量顶尖 AI 人才 数据:YouTube、Google Maps & Earth、Waymo 分发:Google Search、Chrome、Android,以及所有 Google 应用 Gemini 现在被推向几乎所有 Google 应用。对我来说,YouTube 里的 Gemini 真的非常有用。 在过去 3 个月里,我从 100% 使用 ChatGPT,变成了 约 60% 使用 Gemini。 对大型科技公司而言:如果你不自我颠覆,就一定会被别人颠覆。 Google is the OG of AI. - 2013: acquired Hinton + Ilya for $44M - 2014: acquired DeepMind for $400M - 2015: built TPUs - 2017: Transformer - Then they hesitated on AI chatbots. That pushed Noam Shazeer to leave and build Character AI. Google later bought him back for $2.7B. - OpenAI threat: ChatGPT could kill Google Search, but Google is so back! Even Sergey Brin is back. Why Google is a monster: - chips: TPUs - people: Demis Hassabis, Jeff Dean, Noam Shazeer, lots of AI talent - data: YouTube, Google Maps & Earth, Waymo - distribution: Google Search, Chrome, Android, every Google app Gemini is now pushed to every Google app. Gemini in YouTube has been genuinely useful for me. I’ve gone from 100% ChatGPT to ~60% Gemini in the past 3 months. For big tech companies: if you don’t disrupt yourself, someone else will.Yuchen Jin · 2026/01/07
- 我刚刚坐了一次 29 分钟的 Waymo,感觉就像开了作弊码一样——我甚至完全忘了自己是在车里。 车很干净,很安静,行驶丝滑到不真实。它每次都会自动播放顺滑的爵士乐(正合我口味)。 很快,我再也不用打 Uber 了——如果真主愿意。 i just had a 29 minute waymo ride. it felt like a cheat code. like i literally fucking forgot i was in a car. it’s clean. it’s quiet. the ride is buttery smooth. it autoplays smooth jazz every time (my pref). soon i will never have to take an uber ever again, allah willing.signüll @signulll · 2026/01/05