執行 #246

WEEX Agent (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
15
開始時間
16 May 12:37
耗時
570.6s
¶ Economics · Bot-side N=15 attempts

Cost & Tokens

$0.1777
Total Bot Cost · USD
34.0%
Prompt Cache Hit
cost per case
$0.0118
cost per 1k tokens
$0.0017
input tokens
102,258
output tokens
3,177
cached tokens — prompt-cache hit
34,816
Total Tokens
105,435
economic efficiency
cost per correct
$0.0020
pass rate
46.7%
7 / 15
judge cost
$0.0137
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 64c058af-16c4-4296-8860-2998d12edcfc 626 筆 KB
    SystemPrompt: sha256:300c78f1 KBContent: sha256:8b9c1e29 Tools: sha256:d457a435 Scenarios: sha256:be712ed6 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
15 / 15
錯誤
0
失敗維度
4
首字延遲 p95
8574 ms
Bot 成本（Neptune）
$0.1777
Bot Tokens（Neptune）
105,435
Judge 成本（Eris）
$0.0137
Judge Tokens（Eris）
99,750
項目 I.

知識庫精準度

kb_accuracy 4 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=4
F1 33.3% · 相關率 45.0% · 精確 20.0%
4 / 4 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=4
4 / 4 適用
答得到位 平均
answer_quality
82.5%
[65.0% – 95.8%] · n=4
4 / 4 適用
  • 案例 ECCCF883

    怎麼申請成為 P2P 商戶?

    已完成
    第 1 次嘗試 · 已完成 45559ms

    載入詳情中…
  • 案例 77CB5C8C

    WEEX支持用OTC或Express Buy存款嗎？

    已完成
    第 1 次嘗試 · 已完成 36065ms

    載入詳情中…
  • 案例 0073F8E7

    OTC銷售的最低訂單金額是多少?

    已完成
    第 1 次嘗試 · 已完成 43148ms

    載入詳情中…
  • 案例 E2966C5F

    使用 quick buy 時，怎麼選擇支付方式?

    已完成
    第 1 次嘗試 · 已完成 36773ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
20.0%
[0.0% – 50.0%] · n=10
F1 13.3% · 召回 20.0% · 精確 10.0%
10 / 10 適用
用對工具 召回
tool_usage
0.0%
[0.0% – 0.0%] · n=10
F1 26.7% · 召回 20.0% · 精確 60.0%
10 / 10 適用
答得到位 平均
answer_quality
46.7%
[32.7% – 63.7%] · n=10
10 / 10 適用
  • 案例 D7D7FF07

    我剛剛想問提領的問題，但是找不到相關資料，怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 35991ms

    載入詳情中…
  • 案例 9F50BE4F

    有沒有適合的產品啊

    已完成
    第 1 次嘗試 · 已完成 56563ms

    載入詳情中…
  • 案例 54EBC8B2

    我需要推薦一款髮片，有什麼比較好的吗

    已完成
    第 1 次嘗試 · 已完成 21834ms

    載入詳情中…
  • 案例 3984E2A0

    查詢提款問題需要什麼參數?

    已完成
    第 1 次嘗試 · 已完成 22997ms

    載入詳情中…
  • 案例 7D58EC29

    訂單查詢的時候，找到了多個訂單怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 29511ms

    載入詳情中…
  • 案例 55B506B0

    我想查詢我的訂單狀態，但找不到相關訂單，該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 37681ms

    載入詳情中…
  • 案例 E0D5883E

    我的訂單查詢怎麼做啊

    已完成
    第 1 次嘗試 · 已完成 25995ms

    載入詳情中…
  • 案例 FC0FD499

    提款未到的常見原因是什麼？

    已完成
    第 1 次嘗試 · 已完成 47565ms

    載入詳情中…
  • 案例 C235F8FD

    存款未到的原因是什麼?

    已完成
    第 1 次嘗試 · 已完成 38268ms

    載入詳情中…
  • 案例 05CCD29A

    請問我想要一款適合夏天使用的髮片，可以推薦嗎？

    已完成
    第 1 次嘗試 · 已完成 13186ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 1 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
—
—
不亂編造 平均
faithfulness
—
1 / 1 適用
答得到位 平均
answer_quality
100.0%
1 / 1 適用
  • 案例 3949A0FA

    如果AI無法回答我的問題，可以轉接給人嗎?

    已完成
    第 1 次嘗試 · 已完成 40784ms

    載入詳情中…