執行 #255

Wonnuf (bulk R1) → production-baseline

狀態
已完成
案例
30
開始時間
16 May 12:42
耗時
273.7s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1796
Total Bot Cost · USD
61.9%
Prompt Cache Hit
cost per case
$0.0060
cost per 1k tokens
$0.0013
input tokens
136,953
output tokens
4,099
cached tokens — prompt-cache hit
84,736
Total Tokens
141,052
economic efficiency
cost per correct
$0.0013
pass rate
80.0%
24 / 30
judge cost
$0.0311
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • cb08e3f8-2dc1-48d2-87de-0d7da006f268 123 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:5b33f92a Tools: sha256:c5275411 Scenarios: sha256:41273abd AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
0
首字延遲 p95
7500 ms
Bot 成本(Neptune)
$0.1796
Bot Tokens(Neptune)
141,052
Judge 成本(Eris)
$0.0311
Judge Tokens(Eris)
230,953
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
90.0%
[70.0% – 100.0%] · n=10
F1 16.4% · 相關率 26.0% · 精確 9.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
92.7%
[82.3% – 98.7%] · n=10
10 / 10 適用
  • 案例 44696FD5

    我怎麼知道我現在的會員等級?

    已完成
    第 1 次嘗試 · 已完成 22188ms

    載入詳情中…

  • 案例 B03F8E1D

    刪除帳號後可以登入嗎

    已完成
    第 1 次嘗試 · 已完成 19375ms

    載入詳情中…

  • 案例 69650AD0

    為什麼綁定手機時會說已達上限?

    已完成
    第 1 次嘗試 · 已完成 16998ms

    載入詳情中…

  • 案例 DCDD16F6

    店家可以用什麼方式兌換?

    已完成
    第 1 次嘗試 · 已完成 20408ms

    載入詳情中…

  • 案例 6AE9EA4A

    如果遲到,該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 15006ms

    載入詳情中…

  • 案例 31C82C4E

    我什麼時候可以對我的訂單評價?

    已完成
    第 1 次嘗試 · 已完成 13433ms

    載入詳情中…

  • 案例 7A25A1A8

    訂單的退款金額在哪裡看?

    已完成
    第 1 次嘗試 · 已完成 22323ms

    載入詳情中…

  • 案例 5680844B

    要怎麼刪除付款的信用卡?

    已完成
    第 1 次嘗試 · 已完成 16913ms

    載入詳情中…

  • 案例 98195186

    消費紀錄可以查詢嗎?

    已完成
    第 1 次嘗試 · 已完成 13080ms

    載入詳情中…

  • 案例 82029EE9

    假日預訂改成平日,會退還價格差額嗎?

    已完成
    第 1 次嘗試 · 已完成 13398ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
70.0%
[40.0% – 100.0%] · n=10
F1 66.7% · 召回 70.0% · 精確 65.0%
10 / 10 適用
用對工具 召回
tool_usage
0.0%
[0.0% – 0.0%] · n=2
F1 0.0% · 召回 0.0% · 精確 50.0%
2 / 10 適用
答得到位 平均
answer_quality
71.0%
[54.3% – 86.3%] · n=10
10 / 10 適用
  • 案例 D585FB5A

    訂單編號找不到,怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 13360ms

    載入詳情中…

  • 案例 887C4BA3

    我訂單取消超過 14 天了,退款還沒收到,怎麼查詢?

    已完成
    第 1 次嘗試 · 已完成 15382ms

    載入詳情中…

  • 案例 B31EC042

    預訂失敗怎麼辦啊?

    已完成
    第 1 次嘗試 · 已完成 9702ms

    載入詳情中…

  • 案例 D32E0514

    到底怎麼聯繫真人客服啊?

    已完成
    第 1 次嘗試 · 已完成 15921ms

    載入詳情中…

  • 案例 E8537780

    我想取消訂單,但是沒記得訂單編號,這樣可以嗎?

    已完成
    第 1 次嘗試 · 已完成 18185ms

    載入詳情中…

  • 案例 F4730881

    為什麼我的優惠碼不能用?

    已完成
    第 1 次嘗試 · 已完成 13760ms

    載入詳情中…

  • 案例 3A42BE29

    為什麼取消訂單會不全額退款啊?

    已完成
    第 1 次嘗試 · 已完成 25448ms

    載入詳情中…

  • 案例 A7EDB8D3

    我可以要求多筆訂單連續使用嗎?

    已完成
    第 1 次嘗試 · 已完成 13045ms

    載入詳情中…

  • 案例 61C439C1

    查詢消費紀錄要提供什麼資料?

    已完成
    第 1 次嘗試 · 已完成 16295ms

    載入詳情中…

  • 案例 D75CDF87

    我在 FunNow 買的東西比現場貴,怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 18218ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
77.8%
[44.4% – 100.0%] · n=9
F1 14.1% · 相關率 22.9% · 精確 30.0%
9 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
92.7%
[81.0% – 99.3%] · n=10
10 / 10 適用
  • 案例 4E952CC2

    可以用信用卡付款嗎

    已完成
    第 1 次嘗試 · 已完成 13831ms

    載入詳情中…

  • 案例 504B8CFA

    在 FunNow 綁定信用卡怎麼做?

    已完成
    第 1 次嘗試 · 已完成 14093ms

    載入詳情中…

  • 案例 71326789

    取消訂單後 Fun 幣會怎麼處理?

    已完成
    第 1 次嘗試 · 已完成 26256ms

    載入詳情中…

  • 案例 FEA70F2D

    為什麼 FunNow 不能直接更改頭貼?

    已完成
    第 1 次嘗試 · 已完成 11415ms

    載入詳情中…

  • 案例 BEAA653B

    優惠碼使用的中文條款是什麼?

    已完成
    第 1 次嘗試 · 已完成 26668ms

    載入詳情中…

  • 案例 46ABD5C6

    如果無法確認帳號,可以提供什麼資訊?

    已完成
    第 1 次嘗試 · 已完成 15834ms

    載入詳情中…

  • 案例 E04C33CC

    扣除後的剩餘哩程數能繼續累積嗎

    已完成
    第 1 次嘗試 · 已完成 16087ms

    載入詳情中…

  • 案例 C5E33A4B

    為什麼 App 上找不到商品?

    已完成
    第 1 次嘗試 · 已完成 16835ms

    載入詳情中…

  • 案例 5A42265C

    要怎麼更改綁定的 email?

    已完成
    第 1 次嘗試 · 已完成 11826ms

    載入詳情中…

  • 案例 B01A0007

    如果我遲到了,會影響預訂的服務嗎?

    已完成
    第 1 次嘗試 · 已完成 17212ms

    載入詳情中…