返回快訊

Perplexity上線Search API的Fast Search

perplexity宣佈在search api中加入fast search,檢索與排序跑在自研的rust服務photon上。公司稱由小團隊工程師加數百個智能體共同搭建,95%的檢索結果在230毫秒內返回。該接口面向開發者,返回的是檢索結果本身,不是對話答案。

search api於2025年9月對外開放,把回答引擎背後的網頁索引賣給外部應用,覆蓋數千億量級頁面,按次計費約每千次5美元,不含大模型token。當時內部評測給出中位延遲358毫秒,p95低於800毫秒,對比exa中位約1375毫秒、brave約513毫秒、以tavily爲代表的serp抓取約1342毫秒。日查詢口徑約2億次。fast search把p95從不到800毫秒壓到230毫秒,針對的是智能體多輪檢索裏每一毫秒都會疊進首token時間。

兩週前perplexity剛公佈cobbledb:約4萬行rust寫的鍵值熱存儲,替換dynamodb,批量讀中位延遲從31.4毫秒降到5.60毫秒,降幅約82%,p99從123毫秒到24.2毫秒,並稱存儲層成本有望降兩成以上,底層仍用rocksdb。photon與cobbledb同屬自研服務層,一個管檢索排序,一個管熱讀。文檔裏sonar等回答接口已把search_type分成fast與pro,簡單事實走快路徑、複雜研究走pro,按觸發類型分別計費。

產品定位是把索引、混合檢索和多段排序直接交給rag與智能體,而不是再包一層生成。接口支持域名與語言過濾、時間窗、單請求最多五條查詢。微軟已關停bing search api後,開發者側替代包括brave、exa和各類serp代理。perplexity把差異寫成自有索引加細粒度片段打分,而不是抓取別人的結果頁。

機制上,買的是要把網頁檢索嵌進自身模型循環的應用開發者,賣的是延遲更高的第三方檢索和serp刮取。事件驅動是api產品線把內部時延優化對外標成檔位。資金從按次檢索費流向自研rust服務與索引更新;受益的是能把230毫秒寫進智能體編排的應用和perplexity的開發者收入,承壓的是中位仍在500毫秒以上的檢索api。數百智能體寫基礎設施,把人力從堆功能改成堆延遲分位。

來源:公開信息

ABAB AI 解讀

perplexity從回答引擎起家,2025年初先賣帶生成的sonar api,同年9月把不含模型的純檢索拆出來,避免開發者被綁定在自家生成層。358毫秒中位已經比exa快一截,230毫秒的p95是把檢索從“可接受的網絡往返”推進到“可以在一次推理裏連打數次”的區間。小團隊加數百智能體寫photon,與兩週前用智能體和rust替換dynamodb是同一條工程敘事:用代碼生成壓縮基礎設施迭代,而不是擴編檢索組。

資本路徑是“消費端回答養索引,開發者api攤固定成本”。2億次日查詢把爬蟲和索引做成沉沒成本,search api按千次收費回收;fast檔用更低延遲換更高調用密度,因爲智能體一次任務可能打出十幾次檢索。cobbledb砍熱讀,photon砍檢索排序,兩邊都避開雲廠商按字節計費。微軟關掉bing api後,這一層沒有默認的平臺檢索,brave、exa、tavily和perplexity在搶同一批rag預算。

類比google把custom search做成api、openai把檢索當tool,以及cloudflare、fastly用自研邊緣替換通用雲數據庫:都是把內部時延優勢產品化。區別是perplexity同時賣生成和檢索,fast search是防止開發者只用它的答案、卻把檢索交給別人。行業階段從“有沒有實時網頁”轉入“一次智能體循環裏檢索能不能低於模型首token”。誰先把p95打進200毫秒出頭,誰就更適合當默認工具。

結構判斷屬於技術替代。定價權從“誰的結果頁能被刮”轉向“誰的索引能在200毫秒級返回可引用片段”。機制是大模型首token動輒數秒,檢索必須比生成短一個數量級,否則多智能體循環會被檢索拖死;rust熱路徑和自研存儲是把雲數據庫的尾延遲從賬單裏拿掉。智能體寫基礎設施,只是讓這條替換來得更快。

ABAB News · 認知定律

  1. 智能體循環裏,檢索必須比生成短一個數量級

  2. 自研存儲和自研檢索,打的是同一筆雲賬單

  3. 關掉平臺搜索api後,延遲數字就是新的貨架位置