執行 #256

Wonnuf (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面
狀態
執行中
案例
29
開始時間
16 May 12:42
耗時
—
¶ Economics · Bot-side N=29 attempts

Cost & Tokens

$0.1443
Total Bot Cost · USD
77.7%
Prompt Cache Hit
cost per case
$0.0050
cost per 1k tokens
$0.0011
input tokens
133,041
output tokens
4,164
cached tokens — prompt-cache hit
103,424
Total Tokens
137,205
economic efficiency
cost per correct
$0.0013
pass rate
79.3%
23 / 29
judge cost
$0.0294
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • cb08e3f8-2dc1-48d2-87de-0d7da006f268 123 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:5b33f92a Tools: sha256:c5275411 Scenarios: sha256:41273abd AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
29 / 29
錯誤
0
失敗維度
0
首字延遲 p95
14539 ms
Bot 成本（Neptune）
$0.1443
Bot Tokens（Neptune）
137,205
Judge 成本（Eris）
$0.0294
Judge Tokens（Eris）
222,981
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
88.9%
[66.7% – 100.0%] · n=9
F1 16.2% · 相關率 27.8% · 精確 8.9%
9 / 9 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=9
9 / 9 適用
答得到位 平均
answer_quality
93.7%
[85.2% – 99.3%] · n=9
9 / 9 適用
  • 案例 44696FD5

    我怎麼知道我現在的會員等級?

    已完成
    第 1 次嘗試 · 已完成 52716ms

    載入詳情中…
  • 案例 B03F8E1D

    刪除帳號後可以登入嗎

    已完成
    第 1 次嘗試 · 已完成 31051ms

    載入詳情中…
  • 案例 69650AD0

    為什麼綁定手機時會說已達上限?

    pending

    等候 orchestrator 處理此案例…

  • 案例 DCDD16F6

    店家可以用什麼方式兌換?

    已完成
    第 1 次嘗試 · 已完成 34604ms

    載入詳情中…
  • 案例 6AE9EA4A

    如果遲到，該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 29025ms

    載入詳情中…
  • 案例 31C82C4E

    我什麼時候可以對我的訂單評價？

    已完成
    第 1 次嘗試 · 已完成 29979ms

    載入詳情中…
  • 案例 7A25A1A8

    訂單的退款金額在哪裡看?

    已完成
    第 1 次嘗試 · 已完成 32955ms

    載入詳情中…
  • 案例 5680844B

    要怎麼刪除付款的信用卡?

    已完成
    第 1 次嘗試 · 已完成 44373ms

    載入詳情中…
  • 案例 98195186

    消費紀錄可以查詢嗎?

    已完成
    第 1 次嘗試 · 已完成 40259ms

    載入詳情中…
  • 案例 82029EE9

    假日預訂改成平日，會退還價格差額嗎？

    已完成
    第 1 次嘗試 · 已完成 45961ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
70.0%
[40.0% – 100.0%] · n=10
F1 66.7% · 召回 70.0% · 精確 65.0%
10 / 10 適用
用對工具 召回
tool_usage
0.0%
[0.0% – 0.0%] · n=2
F1 0.0% · 召回 0.0% · 精確 50.0%
2 / 10 適用
答得到位 平均
answer_quality
72.7%
[56.0% – 87.3%] · n=10
10 / 10 適用
  • 案例 D585FB5A

    訂單編號找不到，怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 29013ms

    載入詳情中…
  • 案例 887C4BA3

    我訂單取消超過 14 天了，退款還沒收到，怎麼查詢?

    已完成
    第 1 次嘗試 · 已完成 25552ms

    載入詳情中…
  • 案例 B31EC042

    預訂失敗怎麼辦啊？

    已完成
    第 1 次嘗試 · 已完成 26051ms

    載入詳情中…
  • 案例 D32E0514

    到底怎麼聯繫真人客服啊？

    已完成
    第 1 次嘗試 · 已完成 59369ms

    載入詳情中…
  • 案例 E8537780

    我想取消訂單，但是沒記得訂單編號，這樣可以嗎？

    已完成
    第 1 次嘗試 · 已完成 21613ms

    載入詳情中…
  • 案例 F4730881

    為什麼我的優惠碼不能用？

    已完成
    第 1 次嘗試 · 已完成 29058ms

    載入詳情中…
  • 案例 3A42BE29

    為什麼取消訂單會不全額退款啊？

    已完成
    第 1 次嘗試 · 已完成 39272ms

    載入詳情中…
  • 案例 A7EDB8D3

    我可以要求多筆訂單連續使用嗎?

    已完成
    第 1 次嘗試 · 已完成 24116ms

    載入詳情中…
  • 案例 61C439C1

    查詢消費紀錄要提供什麼資料？

    已完成
    第 1 次嘗試 · 已完成 43830ms

    載入詳情中…
  • 案例 D75CDF87

    我在 FunNow 買的東西比現場貴，怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 23581ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
77.8%
[44.4% – 100.0%] · n=9
F1 14.1% · 相關率 28.6% · 精確 30.0%
9 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
94.7%
[88.3% – 99.0%] · n=10
10 / 10 適用
  • 案例 4E952CC2

    可以用信用卡付款嗎

    已完成
    第 1 次嘗試 · 已完成 34505ms

    載入詳情中…
  • 案例 504B8CFA

    在 FunNow 綁定信用卡怎麼做？

    已完成
    第 1 次嘗試 · 已完成 18889ms

    載入詳情中…
  • 案例 71326789

    取消訂單後 Fun 幣會怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 41774ms

    載入詳情中…
  • 案例 FEA70F2D

    為什麼 FunNow 不能直接更改頭貼？

    已完成
    第 1 次嘗試 · 已完成 24958ms

    載入詳情中…
  • 案例 BEAA653B

    優惠碼使用的中文條款是什麼?

    已完成
    第 1 次嘗試 · 已完成 40139ms

    載入詳情中…
  • 案例 46ABD5C6

    如果無法確認帳號，可以提供什麼資訊?

    已完成
    第 1 次嘗試 · 已完成 22899ms

    載入詳情中…
  • 案例 E04C33CC

    扣除後的剩餘哩程數能繼續累積嗎

    已完成
    第 1 次嘗試 · 已完成 28767ms

    載入詳情中…
  • 案例 C5E33A4B

    為什麼 App 上找不到商品?

    已完成
    第 1 次嘗試 · 已完成 32130ms

    載入詳情中…
  • 案例 5A42265C

    要怎麼更改綁定的 email?

    已完成
    第 1 次嘗試 · 已完成 30695ms

    載入詳情中…
  • 案例 B01A0007

    如果我遲到了，會影響預訂的服務嗎?

    已完成
    第 1 次嘗試 · 已完成 59105ms

    載入詳情中…