架構幫助降低90%的成本,同時保持原有品質

robot
摘要生成中

Delphi Digital 的研究對市場產生了巨大影響。然而,當他們開發一款專注於深入加密分析的 AI 產品時,該項目幾乎因經濟問題而“夭折”。
關於鏈上數據、代幣經濟學或估值模型的複雜查詢,每個可能耗費數美元。如果擴展到數千用戶,成本將遠超可持續運營的範圍。
他們沒有選擇簡單的降低成本模型,而是重新設計了整個系統架構。

三層架構解決成本問題
1️⃣ 智能查詢路由器(Intelligent Query Router)
超過60%的查詢不需要調用大型語言模型(LLM)。
價格數據 → 直接調用 API
基本定義、概念 → 從快取中獲取
只有真正複雜的分析 → 才激活推理模型
原則:用對工具做對事。
並非所有問題都需要“重型” AI。

2️⃣ 多層快取(Tiered Caching)
大多數問題會重複多次。
內容變化少 → 預先生成(pre-generate)
變化緩慢的內容 → 快取
實時動態內容 → 即時生成
結果:
反饋延遲降低70%
系統更穩定
推理成本大幅降低

3️⃣ 盲測模型(Blind Model Testing)
Delphi 將同一查詢發送給多個不同模型。
專家評估結果,但不知來源。
令人驚訝的結論:
較小的模型通常能達到與大模型相當的質量。
因此,他們將查詢路由到成本最低但仍符合質量標準的模型。

核心因素:驗證準確性
只有在確保可靠性時,成本優化才真正有效。
這時 @mira_network 發揮了作用。
去中心化的共識機制幫助驗證輸出結果,使 Delphi 能信任較便宜的模型,而無需擴大人工審核團隊。

結果
成本降低90%
保持分析質量
加快反饋速度
運營模型變得更可持續

最大教訓
若技術能力不伴隨經濟落實,只停留在研究階段。
Delphi 證明:
部署問題(deployment problem)與模型問題(model problem)同樣重要。
而有像 #Mira 這樣的驗證層在背後,兩者皆可解決。$MIRA
{spot}(MIRAUSDT)

MIRA-4.84%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)