返回快讯

Perplexity上线Search API的Fast Search

perplexity宣布在search api中加入fast search,检索与排序跑在自研的rust服务photon上。公司称由小团队工程师加数百个智能体共同搭建,95%的检索结果在230毫秒内返回。该接口面向开发者,返回的是检索结果本身,不是对话答案。

search api于2025年9月对外开放,把回答引擎背后的网页索引卖给外部应用,覆盖数千亿量级页面,按次计费约每千次5美元,不含大模型token。当时内部评测给出中位延迟358毫秒,p95低于800毫秒,对比exa中位约1375毫秒、brave约513毫秒、以tavily为代表的serp抓取约1342毫秒。日查询口径约2亿次。fast search把p95从不到800毫秒压到230毫秒,针对的是智能体多轮检索里每一毫秒都会叠进首token时间。

两周前perplexity刚公布cobbledb:约4万行rust写的键值热存储,替换dynamodb,批量读中位延迟从31.4毫秒降到5.60毫秒,降幅约82%,p99从123毫秒到24.2毫秒,并称存储层成本有望降两成以上,底层仍用rocksdb。photon与cobbledb同属自研服务层,一个管检索排序,一个管热读。文档里sonar等回答接口已把search_type分成fast与pro,简单事实走快路径、复杂研究走pro,按触发类型分别计费。

产品定位是把索引、混合检索和多段排序直接交给rag与智能体,而不是再包一层生成。接口支持域名与语言过滤、时间窗、单请求最多五条查询。微软已关停bing search api后,开发者侧替代包括brave、exa和各类serp代理。perplexity把差异写成自有索引加细粒度片段打分,而不是抓取别人的结果页。

机制上,买的是要把网页检索嵌进自身模型循环的应用开发者,卖的是延迟更高的第三方检索和serp刮取。事件驱动是api产品线把内部时延优化对外标成档位。资金从按次检索费流向自研rust服务与索引更新;受益的是能把230毫秒写进智能体编排的应用和perplexity的开发者收入,承压的是中位仍在500毫秒以上的检索api。数百智能体写基础设施,把人力从堆功能改成堆延迟分位。

来源:公开信息

ABAB AI 解读

perplexity从回答引擎起家,2025年初先卖带生成的sonar api,同年9月把不含模型的纯检索拆出来,避免开发者被绑定在自家生成层。358毫秒中位已经比exa快一截,230毫秒的p95是把检索从“可接受的网络往返”推进到“可以在一次推理里连打数次”的区间。小团队加数百智能体写photon,与两周前用智能体和rust替换dynamodb是同一条工程叙事:用代码生成压缩基础设施迭代,而不是扩编检索组。

资本路径是“消费端回答养索引,开发者api摊固定成本”。2亿次日查询把爬虫和索引做成沉没成本,search api按千次收费回收;fast档用更低延迟换更高调用密度,因为智能体一次任务可能打出十几次检索。cobbledb砍热读,photon砍检索排序,两边都避开云厂商按字节计费。微软关掉bing api后,这一层没有默认的平台检索,brave、exa、tavily和perplexity在抢同一批rag预算。

类比google把custom search做成api、openai把检索当tool,以及cloudflare、fastly用自研边缘替换通用云数据库:都是把内部时延优势产品化。区别是perplexity同时卖生成和检索,fast search是防止开发者只用它的答案、却把检索交给别人。行业阶段从“有没有实时网页”转入“一次智能体循环里检索能不能低于模型首token”。谁先把p95打进200毫秒出头,谁就更适合当默认工具。

结构判断属于技术替代。定价权从“谁的结果页能被刮”转向“谁的索引能在200毫秒级返回可引用片段”。机制是大模型首token动辄数秒,检索必须比生成短一个数量级,否则多智能体循环会被检索拖死;rust热路径和自研存储是把云数据库的尾延迟从账单里拿掉。智能体写基础设施,只是让这条替换来得更快。

ABAB News · 认知定律

  1. 智能体循环里,检索必须比生成短一个数量级

  2. 自研存储和自研检索,打的是同一笔云账单

  3. 关掉平台搜索api后,延迟数字就是新的货架位置