这视频是 John Schulman(OpenAI 前联合创始人、强化学习(RL)专家,现就职于 Thinking Machines)接受 Cursor 采访的对话。他在对话中回顾了 OpenAI 的早期历程,探讨了强化学习的未来、AI 实验室的管理,以及他目前在 Thinking Machines 做的项目。 以下是内容和核心观点的整理: 一、 早期 OpenAI 的回顾与“快进”假设 复刻 ChatGPT: John 认为,如果带着现在的知识(Hindsight)回到 2018-2019 年,只需几个天才和几台 GPU,就能在一年内做出 GPT-3.5 水平的模型。关键在于巧妙的后训练(Post-training)数据构建,这能显著提高小模型的效能。 早期的“草根”氛围: 早期的 OpenAI 像是一个学术小组,大家根据个人口味做研究。 曾经的死胡同: 提到了一个叫 Universe 的早期项目,试图创建一个通用的强化学习代理,虽然想法正确,但当时工程能力和预训练技术还没跟上,领先了时代大约十年。 二、 强化学习(RL)的现状与未来观点 价值函数(Value Functions)为何遇冷:在目前的 LLM 强化学习(如 RLHF)中,价值函数似乎没起到太大作用。John 认为这可能与当前任务的时间跨度(Time Horizon)或方差减少的需求有关,但他预测价值函数未来会回归。 自我改进与对战:他非常看好生成器(Generators)与验证器(Verifiers)协同训练的理念,认为这能形成良性循环。他也支持多智能体对战(Games),因为对战可以自动产生递进的课程学习(Curriculum)。 持续学习(Continual Learning):认为 Context(上下文)管理是短期内最有效的学习方式,但从长远来看,**权重更新(Weight Updates)**在处理海量知识和长时记忆方面会更胜一筹。 三、 关于 AI 研究环境与人才 研究管理者的理想型:John 见过两种成功的模式:一种是事无巨细、亲手写代码的技术型管理者;另一种是作为“共鸣板”,通过激励和职业建议来支持团队。 公司与学术界的差异:大型 AI 公司的内部研究更注重准确性和真实后果,而非为了发表论文;学术界则有更好的基准测试(Baselines)和详细的文字报告。 人才分布的变化:现在的 AI 领域吸引了更多“主流”且追求风险可控的精英。相比 2015 年,现在的门槛更高,且工程能力(Engineering Skill)比单纯的研究品味(Research Taste)更重要。 四、 AGI 预测与个人研究习惯 进度预估偏见:John 同意工程师往往会低估项目时间,通常需要乘以 2-3 倍的因子。 研究习惯:他喜欢在充满活力的咖啡馆思考和记笔记。在项目初期侧重构思,后期转入高强度的执行。 AI 工具使用:他重度使用 AI 辅助编程(如 Cursor、Claude),并利用模型进行文献搜索和迭代想法。 五、 Thinking Machines 与 Tinker API Tinker 的定位: 这是一个底层的微调(Fine-tuning)API,旨在抽象掉分布式系统和 GPU 管理的复杂性,让开发者能用简单的 Python 脚本执行复杂的后训练算法。 愿景: 希望下一代 AI 初创公司能直接在 Tinker 上构建自己的定制模型。

Michael TruellCEO of Cursor AI
目录

观点原文

这视频是 John Schulman(OpenAI 前联合创始人、强化学习(RL)专家,现就职于 Thinking Machines)接受 Cursor 采访的对话。他在对话中回顾了 OpenAI 的早期历程,探讨了强化学习的未来、AI 实验室的管理,以及他目前在 Thinking Machines 做的项目。

以下是内容和核心观点的整理:

一、 早期 OpenAI 的回顾与“快进”假设

复刻 ChatGPT: John 认为,如果带着现在的知识(Hindsight)回到 2018-2019 年,只需几个天才和几台 GPU,就能在一年内做出 GPT-3.5 水平的模型。关键在于巧妙的后训练(Post-training)数据构建,这能显著提高小模型的效能。

早期的“草根”氛围: 早期的 OpenAI 像是一个学术小组,大家根据个人口味做研究。

曾经的死胡同: 提到了一个叫 Universe 的早期项目,试图创建一个通用的强化学习代理,虽然想法正确,但当时工程能力和预训练技术还没跟上,领先了时代大约十年。

二、 强化学习(RL)的现状与未来观点

价值函数(Value Functions)为何遇冷:在目前的 LLM 强化学习(如 RLHF)中,价值函数似乎没起到太大作用。John 认为这可能与当前任务的时间跨度(Time Horizon)或方差减少的需求有关,但他预测价值函数未来会回归。

自我改进与对战:他非常看好生成器(Generators)与验证器(Verifiers)协同训练的理念,认为这能形成良性循环。他也支持多智能体对战(Games),因为对战可以自动产生递进的课程学习(Curriculum)。

持续学习(Continual Learning):认为 Context(上下文)管理是短期内最有效的学习方式,但从长远来看,权重更新(Weight Updates)在处理海量知识和长时记忆方面会更胜一筹。

三、 关于 AI 研究环境与人才

研究管理者的理想型:John 见过两种成功的模式:一种是事无巨细、亲手写代码的技术型管理者;另一种是作为“共鸣板”,通过激励和职业建议来支持团队。

公司与学术界的差异:大型 AI 公司的内部研究更注重准确性和真实后果,而非为了发表论文;学术界则有更好的基准测试(Baselines)和详细的文字报告。

人才分布的变化:现在的 AI 领域吸引了更多“主流”且追求风险可控的精英。相比 2015 年,现在的门槛更高,且工程能力(Engineering Skill)比单纯的研究品味(Research Taste)更重要。

四、 AGI 预测与个人研究习惯

进度预估偏见:John 同意工程师往往会低估项目时间,通常需要乘以 2-3 倍的因子。

研究习惯:他喜欢在充满活力的咖啡馆思考和记笔记。在项目初期侧重构思,后期转入高强度的执行。

AI 工具使用:他重度使用 AI 辅助编程(如 Cursor、Claude),并利用模型进行文献搜索和迭代想法。

五、 Thinking Machines 与 Tinker API

Tinker 的定位: 这是一个底层的微调(Fine-tuning)API,旨在抽象掉分布式系统和 GPU 管理的复杂性,让开发者能用简单的 Python 脚本执行复杂的后训练算法。

愿景: 希望下一代 AI 初创公司能直接在 Tinker 上构建自己的定制模型。

AI

相关观点