Coinbase创始人Brian Armstrong分享AI支出控制实践,公司实验将默认模型切换为开源权重模型
Coinbase创始人Brian Armstrong表示,通过更好默认设置、路由和缓存,可在token使用量指数级增长的同时保持AI支出平稳,而非依赖摩擦与支出警报。
公司实验将默认模型切换为开源权重模型如GLM 5.2和Kimi 2.7,通过LLM网关实现,同时保留工程师自主选择权,并通过缓存命中率提升、上下文精简等措施将AI支出几乎减半。
市场机制上,企业AI成本优化实践加速内部基础设施投资,资金从纯模型调用流向路由、缓存与优化工具,事件驱动AI可持续规模化,受益者为提供高效推理基础设施的公司,承压者为单纯售卖算力的供应商。
来源:公开信息
ABAB AI 解读
Brian Armstrong领导Coinbase在加密业务中深度集成AI,并通过自定义LLM网关与内部工具链实践成本控制,将工程师使用自由度与公司支出控制结合,实现指数级采用下的可持续增长。
资本路径显示Coinbase将工程资源投入AI基础设施优化,动机在于支持业务指数增长同时控制边际成本,战略上构建内部高效AI平台以提升整体竞争力。
类似大型科技公司在云时代通过缓存与路由优化降低成本,当前AI时代处于从粗放token消耗向智能资源分配转型的关键阶段。
本质属于技术替代与资本集中,机制在于更好默认、路由和缓存大幅降低无效计算,取代人工监控与限额的低效方式,资本向掌握AI推理优化技术的平台与企业集中,定价权从原始算力提供商转移至全链路效率提升者。
ABAB News · 认知定律
限额摩擦一时,智能优化一世;指数增长靠基础设施而非节流
默认路由缓存控成本,工程师自由度不降;可持续才是规模化核心
工程师粗放调用一时,企业建智能网关一世,顶级资本卖AI效率结构工具