執行 #98

Cacafly AI (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面
狀態
執行中
案例
24
開始時間
16 May 11:28
耗時
—
¶ Economics · Bot-side N=20 attempts

Cost & Tokens

$0.1598
Total Bot Cost · USD
38.3%
Prompt Cache Hit
cost per case
$0.0080
cost per 1k tokens
$0.0016
input tokens
98,209
output tokens
2,484
cached tokens — prompt-cache hit
37,632
Total Tokens
100,693
economic efficiency
cost per correct
$0.0012
pass rate
85.0%
17 / 20
judge cost
$0.0205
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 99cd5f07-9e93-4897-83f6-a04779b55e5c 100 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:428d66e8 Tools: sha256:cb414772 Scenarios: sha256:3fd14ca9 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
20 / 24
錯誤
0
失敗維度
1
首字延遲 p95
13722 ms
Bot 成本（Neptune）
$0.1598
Bot Tokens（Neptune）
100,693
Judge 成本（Eris）
$0.0205
Judge Tokens（Eris）
153,998
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=7
F1 18.2% · 相關率 21.7% · 精確 10.0%
8 / 8 適用 · 1 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=7
8 / 8 適用
答得到位 平均
answer_quality
97.1%
[94.3% – 99.0%] · n=7
8 / 8 適用
  • 案例 38D41637

    尺寸不合可以換貨嗎？如果換好幾次該怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 36778ms

    載入詳情中…
  • 案例 F7E195F4

    如果訂單庫存不足會怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 26031ms

    載入詳情中…
  • 案例 7A5A213E

    請問我可以參考哪裡的尺寸表來選擇髮片的尺碼呢？

    已完成
    第 1 次嘗試 · 已完成 26019ms

    載入詳情中…
  • 案例 0848B026

    可以更改註冊email後用哪個登入?

    已完成
    第 1 次嘗試 · 已完成 31875ms

    載入詳情中…
  • 案例 8287A6DF

    ATM轉帳後要等多久才會確認入帳？

    已完成
    第 1 次嘗試 · 已完成 37762ms

    載入詳情中…
  • 案例 BB818FA3

    發票是怎麼寄的啊？

    已完成
    第 1 次嘗試 · 已完成 31629ms

    載入詳情中…
  • 案例 764BA5DD

    申請公司統編發票時要填什麼資料?

    已完成
    第 1 次嘗試 · 已完成 41924ms

    載入詳情中…
  • 案例 94FD7B6E

    訂單成立後多久可以修改商品數量?

    執行中
    第 1 次嘗試 · 執行中

    載入詳情中…
  • 案例 14B3EDDD

    已付款訂單可以更改付款方式嗎

    pending

    等候 orchestrator 處理此案例…

  • 案例 87093094

    食品可以退貨嗎?

    pending

    等候 orchestrator 處理此案例…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
100.0%
[100.0% – 100.0%] · n=4
F1 83.3% · 召回 100.0% · 精確 75.0%
6 / 6 適用
用對工具 召回
tool_usage
50.0%
[0.0% – 100.0%] · n=4
F1 50.0% · 召回 50.0% · 精確 50.0%
6 / 6 適用
答得到位 平均
answer_quality
88.3%
[75.0% – 100.0%] · n=4
6 / 6 適用
  • 案例 ED98BDB9

    如果查到多個訂單，會怎麼處理?

    pending

    等候 orchestrator 處理此案例…

  • 案例 7C17D346

    商品規格詳細說明在哪裡呢？

    已完成
    第 1 次嘗試 · 已完成 31771ms

    載入詳情中…
  • 案例 A3D0539F

    訂單狀態怎麼查

    已完成
    第 1 次嘗試 · 已完成 26967ms

    載入詳情中…
  • 案例 C1CDA3A9

    為什麼要查詢商品規格？

    已完成
    第 1 次嘗試 · 已完成 34260ms

    載入詳情中…
  • 案例 E825FFF2

    如果查詢我的訂單狀態卻沒找到相關資料，該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 35368ms

    載入詳情中…
  • 案例 48A4FFCF

    訂單查詢的時候會合併資訊嗎

    執行中
    第 1 次嘗試 · 執行中

    載入詳情中…
  • 案例 3D48792D

    如果有多個相關訂單，這些訂單的資訊會怎麼合併？

    執行中
    第 1 次嘗試 · 執行中

    載入詳情中…
  • 案例 0D1B3617

    有沒有最新的優惠活動?

    pending

    等候 orchestrator 處理此案例…

  • 案例 0C1E9B18

    能查詢我的訂單狀態嗎?

    pending

    等候 orchestrator 處理此案例…

  • 案例 2E2A5008

    政策相關問題要怎麼查?

    pending

    等候 orchestrator 處理此案例…

項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=7
F1 18.2% · 相關率 21.4% · 精確 10.0%
8 / 10 適用
不亂編造 平均
faithfulness
81.5%
[59.3% – 100.0%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
84.4%
[68.1% – 97.4%] · n=9
10 / 10 適用
  • 案例 4D16A747

    請問超商取貨需要在幾天內取貨呢？

    已完成
    第 1 次嘗試 · 已完成 28817ms

    載入詳情中…
  • 案例 62E0F199

    電商訂單搜尋要怎麼操作?

    已完成
    第 1 次嘗試 · 已完成 25303ms

    載入詳情中…
  • 案例 EBDBD03F

    查詢的問題要有問號還是疑問詞嗎

    已完成
    第 1 次嘗試 · 已完成 34026ms

    載入詳情中…
  • 案例 805121AF

    積分多久會入帳啊

    已完成
    第 1 次嘗試 · 已完成 32566ms

    載入詳情中…
  • 案例 EC536AFD

    一般會員需要消費多少金額才能升級？

    已完成
    第 1 次嘗試 · 已完成 34073ms

    載入詳情中…
  • 案例 6440FD1E

    退貨的運費大概要多少?

    已完成
    第 1 次嘗試 · 已完成 28701ms

    載入詳情中…
  • 案例 4B82CA0E

    訂單被取消了，要怎麼聯繫客服?

    已完成
    第 1 次嘗試 · 已完成 31690ms

    載入詳情中…
  • 案例 CDD90DF3

    可以等齊所有商品後一次出貨嗎?

    已完成
    第 1 次嘗試 · 已完成 37524ms

    載入詳情中…
  • 案例 18FC6B7E

    特價商品可以退換嗎

    已完成
    第 1 次嘗試 · 已完成 36840ms

    載入詳情中…
  • 案例 13456444

    貨到付款時要準備現金嗎?

    執行中
    第 1 次嘗試 · 執行中

    載入詳情中…