執行 #250

WeMo 威威 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 12:39
耗時
583.8s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2284
Total Bot Cost · USD
73.9%
Prompt Cache Hit
cost per case
$0.0076
cost per 1k tokens
$0.0011
input tokens
205,642
output tokens
5,631
cached tokens — prompt-cache hit
151,936
Total Tokens
211,273
economic efficiency
cost per correct
$0.0013
pass rate
90.0%
27 / 30
judge cost
$0.0363
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 9788574f-fdec-4a4c-9af5-b8e3b6036dfc 83 筆 KB
    SystemPrompt: sha256:b57994de KBContent: sha256:29961135 Tools: sha256:41ec4bc3 Scenarios: sha256:66f22c99 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
2
首字延遲 p95
13817 ms
Bot 成本（Neptune）
$0.2284
Bot Tokens（Neptune）
211,273
Judge 成本（Eris）
$0.0363
Judge Tokens（Eris）
274,302
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
90.0%
[70.0% – 100.0%] · n=10
F1 16.4% · 相關率 18.0% · 精確 9.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
97.7%
[96.3% – 99.0%] · n=10
10 / 10 適用
  • 案例 7670044F

    包車方案要在什麼時間購買？

    已完成
    第 1 次嘗試 · 已完成 28994ms

    載入詳情中…
  • 案例 A78783EC

    同一支手機可以辦幾個帳號呢？

    已完成
    第 1 次嘗試 · 已完成 34409ms

    載入詳情中…
  • 案例 FFEA3A4A

    如果我超過期限沒有填寫表單會怎樣？

    已完成
    第 1 次嘗試 · 已完成 36727ms

    載入詳情中…
  • 案例 4BE421D4

    要怎麼處理重複扣款？需要什麼資料？

    已完成
    第 1 次嘗試 · 已完成 40413ms

    載入詳情中…
  • 案例 251D5B05

    APP 提示不在營運範圍是什麼意思？

    已完成
    第 1 次嘗試 · 已完成 31008ms

    載入詳情中…
  • 案例 1133EB22

    請問我可以怎麼查看騎乘券的狀態？

    已完成
    第 1 次嘗試 · 已完成 27228ms

    載入詳情中…
  • 案例 F9F00840

    為什麼我的車發出連續嗶嗶聲？

    已完成
    第 1 次嘗試 · 已完成 24562ms

    載入詳情中…
  • 案例 A08A88C7

    使用騎乘券後不退差額是什麼意思?

    已完成
    第 1 次嘗試 · 已完成 33119ms

    載入詳情中…
  • 案例 4B8C3F42

    為什麼換完電池車子還發不動？

    已完成
    第 1 次嘗試 · 已完成 30214ms

    載入詳情中…
  • 案例 603DE620

    為什麼沒有騎車還要被收費？

    已完成
    第 1 次嘗試 · 已完成 26559ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
80.0%
[60.0% – 100.0%] · n=10
F1 66.7% · 召回 80.0% · 精確 60.0%
10 / 10 適用
用對工具 召回
tool_usage
0.0%
[0.0% – 0.0%] · n=2
F1 0.0% · 召回 0.0% · 精確 0.0%
2 / 10 適用
答得到位 平均
answer_quality
81.3%
[65.0% – 94.0%] · n=10
10 / 10 適用
  • 案例 75882B6F

    請問要檢舉違停的車輛，請問車號要怎麼填寫呢？

    已完成
    第 1 次嘗試 · 已完成 33889ms

    載入詳情中…
  • 案例 D628A915

    我之前已經還車了，為什麼還是被收費？

    已完成
    第 1 次嘗試 · 已完成 36898ms

    載入詳情中…
  • 案例 539259E7

    如果我車輛顯示保護機制而無法熄火，怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 30941ms

    載入詳情中…
  • 案例 A6F2F181

    我忘記還車被算很久了，該怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 29765ms

    載入詳情中…
  • 案例 83CE07C0

    請問我可以用什麼方式查詢罰單相關問題？

    已完成
    第 1 次嘗試 · 已完成 25624ms

    載入詳情中…
  • 案例 AD68794D

    我的訂單狀態怎麼查?

    已完成
    第 1 次嘗試 · 已完成 27219ms

    載入詳情中…
  • 案例 94418B89

    事故通報後會怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 30596ms

    載入詳情中…
  • 案例 C0CD947D

    我註冊之後怎麼還沒有收到審核結果？

    已完成
    第 1 次嘗試 · 已完成 21322ms

    載入詳情中…
  • 案例 028536D2

    我需要補開發票，請問要提供什麼資料?

    已完成
    第 1 次嘗試 · 已完成 38905ms

    載入詳情中…
  • 案例 BC9F169D

    我想更改會員Email，需要提供哪些資料？

    已完成
    第 1 次嘗試 · 已完成 34773ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=9
F1 18.2% · 相關率 22.2% · 精確 10.0%
9 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
94.3%
[88.0% – 98.0%] · n=10
10 / 10 適用
  • 案例 9FB639F3

    要怎麼撥打客服電話？

    已完成
    第 1 次嘗試 · 已完成 27108ms

    載入詳情中…
  • 案例 08765D26

    事故通報需要提供哪些資訊?

    已完成
    第 1 次嘗試 · 已完成 26829ms

    載入詳情中…
  • 案例 F77361F1

    WeMo APP 支援哪些付款方式？

    已完成
    第 1 次嘗試 · 已完成 52658ms

    載入詳情中…
  • 案例 07569FC4

    我可以怎麼申請刪除帳號？

    已完成
    第 1 次嘗試 · 已完成 37725ms

    載入詳情中…
  • 案例 3267AAB8

    如果找錯車輛應該怎麼做？

    已完成
    第 1 次嘗試 · 已完成 30597ms

    載入詳情中…
  • 案例 9226B391

    包車方案幾時可以購買？

    已完成
    第 1 次嘗試 · 已完成 19737ms

    載入詳情中…
  • 案例 C04ABF07

    如果收不到驗證信，垃圾郵件匣有沒有可能有？

    已完成
    第 1 次嘗試 · 已完成 26505ms

    載入詳情中…
  • 案例 17801D72

    為什麼 APP 上不能預訂車輛？

    已完成
    第 1 次嘗試 · 已完成 29555ms

    載入詳情中…
  • 案例 2241D116

    車子損壞輕微還可以騎嗎？

    已完成
    第 1 次嘗試 · 已完成 26922ms

    載入詳情中…
  • 案例 CE1194B5

    騎到一半可以怎麼關閉車輛?

    已完成
    第 1 次嘗試 · 已完成 39700ms

    載入詳情中…