執行 #97

Cacafly AI (bulk R1) → production-baseline

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 11:28
耗時
414.7s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1518
Total Bot Cost · USD
79.1%
Prompt Cache Hit
cost per case
$0.0051
cost per 1k tokens
$0.0010
input tokens
147,466
output tokens
3,977
cached tokens — prompt-cache hit
116,608
Total Tokens
151,443
economic efficiency
cost per correct
$0.0013
pass rate
80.0%
24 / 30
judge cost
$0.0306
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 99cd5f07-9e93-4897-83f6-a04779b55e5c 100 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:428d66e8 Tools: sha256:cb414772 Scenarios: sha256:3fd14ca9 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
2
首字延遲 p95
2862 ms
Bot 成本（Neptune）
$0.1518
Bot Tokens（Neptune）
151,443
Judge 成本（Eris）
$0.0306
Judge Tokens（Eris）
234,256
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 18.2% · 相關率 18.9% · 精確 10.0%
10 / 10 適用 · 1 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
97.3%
[95.0% – 99.0%] · n=10
10 / 10 適用
  • 案例 38D41637

    尺寸不合可以換貨嗎？如果換好幾次該怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 18327ms

    載入詳情中…
  • 案例 F7E195F4

    如果訂單庫存不足會怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 15956ms

    載入詳情中…
  • 案例 7A5A213E

    請問我可以參考哪裡的尺寸表來選擇髮片的尺碼呢？

    已完成
    第 1 次嘗試 · 已完成 12870ms

    載入詳情中…
  • 案例 0848B026

    可以更改註冊email後用哪個登入?

    已完成
    第 1 次嘗試 · 已完成 11235ms

    載入詳情中…
  • 案例 8287A6DF

    ATM轉帳後要等多久才會確認入帳？

    已完成
    第 1 次嘗試 · 已完成 11360ms

    載入詳情中…
  • 案例 BB818FA3

    發票是怎麼寄的啊？

    已完成
    第 1 次嘗試 · 已完成 16561ms

    載入詳情中…
  • 案例 764BA5DD

    申請公司統編發票時要填什麼資料?

    已完成
    第 1 次嘗試 · 已完成 12853ms

    載入詳情中…
  • 案例 94FD7B6E

    訂單成立後多久可以修改商品數量?

    已完成
    第 1 次嘗試 · 已完成 12852ms

    載入詳情中…
  • 案例 14B3EDDD

    已付款訂單可以更改付款方式嗎

    已完成
    第 1 次嘗試 · 已完成 12983ms

    載入詳情中…
  • 案例 87093094

    食品可以退貨嗎?

    已完成
    第 1 次嘗試 · 已完成 11396ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
80.0%
[50.0% – 100.0%] · n=10
F1 66.7% · 召回 80.0% · 精確 60.0%
10 / 10 適用
用對工具 召回
tool_usage
40.0%
[10.0% – 70.0%] · n=10
F1 40.0% · 召回 40.0% · 精確 40.0%
10 / 10 適用
答得到位 平均
answer_quality
73.7%
[61.7% – 85.7%] · n=10
10 / 10 適用
  • 案例 ED98BDB9

    如果查到多個訂單，會怎麼處理?

    已完成
    第 1 次嘗試 · 已完成 15724ms

    載入詳情中…
  • 案例 7C17D346

    商品規格詳細說明在哪裡呢？

    已完成
    第 1 次嘗試 · 已完成 13124ms

    載入詳情中…
  • 案例 A3D0539F

    訂單狀態怎麼查

    已完成
    第 1 次嘗試 · 已完成 12287ms

    載入詳情中…
  • 案例 C1CDA3A9

    為什麼要查詢商品規格？

    已完成
    第 1 次嘗試 · 已完成 11331ms

    載入詳情中…
  • 案例 E825FFF2

    如果查詢我的訂單狀態卻沒找到相關資料，該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 19818ms

    載入詳情中…
  • 案例 48A4FFCF

    訂單查詢的時候會合併資訊嗎

    已完成
    第 1 次嘗試 · 已完成 15830ms

    載入詳情中…
  • 案例 3D48792D

    如果有多個相關訂單，這些訂單的資訊會怎麼合併？

    已完成
    第 1 次嘗試 · 已完成 11142ms

    載入詳情中…
  • 案例 0D1B3617

    有沒有最新的優惠活動?

    已完成
    第 1 次嘗試 · 已完成 24221ms

    載入詳情中…
  • 案例 0C1E9B18

    能查詢我的訂單狀態嗎?

    已完成
    第 1 次嘗試 · 已完成 10994ms

    載入詳情中…
  • 案例 2E2A5008

    政策相關問題要怎麼查?

    已完成
    第 1 次嘗試 · 已完成 17917ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=8
F1 18.2% · 相關率 21.3% · 精確 10.0%
8 / 10 適用
不亂編造 平均
faithfulness
83.3%
[60.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
86.0%
[70.7% – 97.3%] · n=10
10 / 10 適用
  • 案例 4D16A747

    請問超商取貨需要在幾天內取貨呢？

    已完成
    第 1 次嘗試 · 已完成 11965ms

    載入詳情中…
  • 案例 62E0F199

    電商訂單搜尋要怎麼操作?

    已完成
    第 1 次嘗試 · 已完成 14580ms

    載入詳情中…
  • 案例 EBDBD03F

    查詢的問題要有問號還是疑問詞嗎

    已完成
    第 1 次嘗試 · 已完成 15712ms

    載入詳情中…
  • 案例 805121AF

    積分多久會入帳啊

    已完成
    第 1 次嘗試 · 已完成 11408ms

    載入詳情中…
  • 案例 EC536AFD

    一般會員需要消費多少金額才能升級？

    已完成
    第 1 次嘗試 · 已完成 12794ms

    載入詳情中…
  • 案例 6440FD1E

    退貨的運費大概要多少?

    已完成
    第 1 次嘗試 · 已完成 13128ms

    載入詳情中…
  • 案例 4B82CA0E

    訂單被取消了，要怎麼聯繫客服?

    已完成
    第 1 次嘗試 · 已完成 13126ms

    載入詳情中…
  • 案例 CDD90DF3

    可以等齊所有商品後一次出貨嗎?

    已完成
    第 1 次嘗試 · 已完成 11440ms

    載入詳情中…
  • 案例 18FC6B7E

    特價商品可以退換嗎

    已完成
    第 1 次嘗試 · 已完成 16409ms

    載入詳情中…
  • 案例 13456444

    貨到付款時要準備現金嗎?

    已完成
    第 1 次嘗試 · 已完成 14717ms

    載入詳情中…