这个视频是 a16z 播客对 OpenAI 开发者平台工程负责人 Sherman Wu 的采访。他们讨论了 OpenAI 如何为 8 亿周活跃用户构建产品、模型的专业化趋势、微调(Fine-Tuning)的新进展以及开源模型的策略。 以下是视频的主要观点整理: 1. 规模与双重身份(Scale & Dual Identity) 巨大的用户规模: ChatGPT 现在的周活跃用户(WAU)已达到 8 亿,约占全球人口的 10%。这是一个惊人的增长速度。 水平与垂直并存: OpenAI 同时是一家水平公司(通过 API 为开发者提供基础设施)和垂直公司(拥有 ChatGPT 这样的第一方消费级应用)。 内部张力: 虽然存在一些张力(例如 API 客户担心 OpenAI 的产品与他们竞争),但目前的快速增长在很大程度上掩盖了这些问题。OpenAI 的使命是尽可能广泛地分发 AGI 的好处,因此通过第一方应用和开发者平台多渠道分发是必要的。 2. 模型生态的演变:从“单一模型”到“专业化模型” 观念转变: 过去(甚至在 OpenAI 内部)普遍认为未来会由一个巨大的“统治一切”的模型(One Model to Rule Them All)主导。但现在情况变了,市场正向专业化模型发展。 模型分化: 不同的模型适用于不同的场景。例如,o1 (推理模型) 适合规划和复杂逻辑,GPT-4o 适合快速交互,Composer 模型适合代码补全。用户和开发者开始针对特定任务组合使用不同的模型。 反去中介化(Anti-disintermediation): 与传统云服务不同,很难在用户和模型之间插入一个完全抽象的软件层。因为模型本身具有“个性”和特定的能力,用户往往知道并需要在特定场景下使用特定的模型(如 GPT-4 vs Claude)。 3. 微调(Fine-Tuning)与强化学习(RL)的新机遇 企业数据的价值: 许多公司拥有巨大的私有数据宝库。过去简单的监督微调(SFT)只能改变模型的语气或格式,无法根本提升能力。 强化微调(Reinforcement Fine-Tuning, RFT): 这是一个巨大的解锁。现在的微调允许企业使用自己的数据进行强化学习。这不再是简单的“风格调整”,而是可以让模型在特定领域达到 SOTA(当前最佳)水平。 数据换算力: OpenAI 正在探索一种模式,如果企业愿意分享其高质量数据用于训练,可以获得推理成本的折扣。 4. 代理(Agents)与工作流 代理的定义: Sherman 将代理定义为“代表你采取行动并在较长时间范围内工作的 AI”。 两种工作类型: 探索性工作(如编程): 目标明确但过程发散,适合现有的 AI 助手模式。 程序化工作(如客户支持): 必须严格遵循标准操作程序(SOP),不能随意发挥。 Agent Builder 的逻辑: OpenAI 推出的 Agent Builder(基于节点的低代码工具)虽然被一些人认为“太受限”,但它正好解决了企业对确定性的需求。在受监管行业或游戏 NPC 逻辑中,必须限制 AI 的输出范围,确保其遵循特定的业务逻辑或法规,而不是完全自由生成。 5. 开源模型与定价策略 拥抱开源: OpenAI 开始发布一些开源模型(如 O1 mini 的某些部分或工具),认为开源生态的繁荣最终对 OpenAI 有利(水涨船高)。目前并未看到开源模型对 API 业务造成明显的“同类相食”效应,因为高端模型的推理服务(Inference)仍然非常困难且昂贵。 定价的未来: 目前 API 主要是按使用量定价(Usage-based)。虽然行业在讨论“按结果定价(Outcome-based)”,但在 API 层面很难衡量“结果”的价值(例如如何衡量一次 API 调用对农作物增产的贡献)。不过,随着模型思考时间(Test-time compute)的增加,使用量定价在某种程度上已经与结果(更复杂的任务需要更多计算)相关联了。 总结 OpenAI 正在从单一的大模型提供商演变为一个支持多样化、专业化模型生态的平台。他们意识到企业不仅需要通用的聊天机器人,更需要能深度结合私有数据、遵循严格业务逻辑(SOP)并能通过强化学习微调达到领域专精的 AI 解决方案。

Erik TorenbergGeneral Partner, a16z
目录

观点原文

这个视频是 a16z 播客对 OpenAI 开发者平台工程负责人 Sherman Wu 的采访。他们讨论了 OpenAI 如何为 8 亿周活跃用户构建产品、模型的专业化趋势、微调(Fine-Tuning)的新进展以及开源模型的策略。

以下是视频的主要观点整理:

1. 规模与双重身份(Scale & Dual Identity)

巨大的用户规模: ChatGPT 现在的周活跃用户(WAU)已达到 8 亿,约占全球人口的 10%。这是一个惊人的增长速度。

水平与垂直并存: OpenAI 同时是一家水平公司(通过 API 为开发者提供基础设施)和垂直公司(拥有 ChatGPT 这样的第一方消费级应用)。

内部张力: 虽然存在一些张力(例如 API 客户担心 OpenAI 的产品与他们竞争),但目前的快速增长在很大程度上掩盖了这些问题。OpenAI 的使命是尽可能广泛地分发 AGI 的好处,因此通过第一方应用和开发者平台多渠道分发是必要的。

2. 模型生态的演变:从“单一模型”到“专业化模型”

观念转变: 过去(甚至在 OpenAI 内部)普遍认为未来会由一个巨大的“统治一切”的模型(One Model to Rule Them All)主导。但现在情况变了,市场正向专业化模型发展。

模型分化: 不同的模型适用于不同的场景。例如,o1 (推理模型) 适合规划和复杂逻辑,GPT-4o 适合快速交互,Composer 模型适合代码补全。用户和开发者开始针对特定任务组合使用不同的模型。

反去中介化(Anti-disintermediation): 与传统云服务不同,很难在用户和模型之间插入一个完全抽象的软件层。因为模型本身具有“个性”和特定的能力,用户往往知道并需要在特定场景下使用特定的模型(如 GPT-4 vs Claude)。

3. 微调(Fine-Tuning)与强化学习(RL)的新机遇

企业数据的价值: 许多公司拥有巨大的私有数据宝库。过去简单的监督微调(SFT)只能改变模型的语气或格式,无法根本提升能力。

强化微调(Reinforcement Fine-Tuning, RFT): 这是一个巨大的解锁。现在的微调允许企业使用自己的数据进行强化学习。这不再是简单的“风格调整”,而是可以让模型在特定领域达到 SOTA(当前最佳)水平。

数据换算力: OpenAI 正在探索一种模式,如果企业愿意分享其高质量数据用于训练,可以获得推理成本的折扣。

4. 代理(Agents)与工作流

代理的定义: Sherman 将代理定义为“代表你采取行动并在较长时间范围内工作的 AI”。

两种工作类型:

探索性工作(如编程): 目标明确但过程发散,适合现有的 AI 助手模式。

程序化工作(如客户支持): 必须严格遵循标准操作程序(SOP),不能随意发挥。

Agent Builder 的逻辑: OpenAI 推出的 Agent Builder(基于节点的低代码工具)虽然被一些人认为“太受限”,但它正好解决了企业对确定性的需求。在受监管行业或游戏 NPC 逻辑中,必须限制 AI 的输出范围,确保其遵循特定的业务逻辑或法规,而不是完全自由生成。

5. 开源模型与定价策略

拥抱开源: OpenAI 开始发布一些开源模型(如 O1 mini 的某些部分或工具),认为开源生态的繁荣最终对 OpenAI 有利(水涨船高)。目前并未看到开源模型对 API 业务造成明显的“同类相食”效应,因为高端模型的推理服务(Inference)仍然非常困难且昂贵。

定价的未来: 目前 API 主要是按使用量定价(Usage-based)。虽然行业在讨论“按结果定价(Outcome-based)”,但在 API 层面很难衡量“结果”的价值(例如如何衡量一次 API 调用对农作物增产的贡献)。不过,随着模型思考时间(Test-time compute)的增加,使用量定价在某种程度上已经与结果(更复杂的任务需要更多计算)相关联了。

总结 OpenAI 正在从单一的大模型提供商演变为一个支持多样化、专业化模型生态的平台。他们意识到企业不仅需要通用的聊天机器人,更需要能深度结合私有数据、遵循严格业务逻辑(SOP)并能通过强化学习微调达到领域专精的 AI 解决方案。

AI

相关观点