執行 #84

CHA CHA AI 小編 🤖 (bulk R1) → production-canary (canary)

狀態
已完成
案例
30
開始時間
16 May 11:20
耗時
574.1s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1877
Total Bot Cost · USD
84.0%
Prompt Cache Hit
cost per case
$0.0063
cost per 1k tokens
$0.0008
input tokens
219,217
output tokens
3,194
cached tokens — prompt-cache hit
184,192
Total Tokens
222,411
economic efficiency
cost per correct
$0.0011
pass rate
76.7%
23 / 30
judge cost
$0.0243
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • 28c6cc65-dff1-40b8-ac8e-9514ac167c02 53 筆 KB
    SystemPrompt: sha256:fe65f64f KBContent: sha256:924a3130 Tools: sha256:f969f4cc Scenarios: sha256:a24acb95 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
26022 ms
Bot 成本(Neptune)
$0.1877
Bot Tokens(Neptune)
222,411
Judge 成本(Eris)
$0.0243
Judge Tokens(Eris)
191,041
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
50.0%
[20.0% – 80.0%] · n=10
F1 16.7% · 相關率 17.1% · 精確 60.0%
10 / 10 適用 · 3 提示
不亂編造 平均
faithfulness
50.0%
[20.0% – 80.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
91.3%
[80.3% – 98.7%] · n=10
10 / 10 適用
  • 案例 60AEAC72

    請問買二送二的活動需要幾盒才可以參加?

    已完成
    第 1 次嘗試 · 已完成 21899ms

    載入詳情中…

  • 案例 6699C056

    Sami 彩色日拋的含水量是多少?

    已完成
    第 1 次嘗試 · 已完成 30512ms

    載入詳情中…

  • 案例 7FB09B2E

    下單後商品大概多久可以收到?

    已完成
    第 1 次嘗試 · 已完成 24414ms

    載入詳情中…

  • 案例 F8D98269

    Lens++ 彩色月拋是什麼類型的隱形眼鏡?

    已完成
    第 1 次嘗試 · 已完成 29934ms

    載入詳情中…

  • 案例 EF62D559

    請問若訂單狀態顯示已確認,可以取消訂單嗎?

    已完成
    第 1 次嘗試 · 已完成 24579ms

    載入詳情中…

  • 案例 288F920D

    威世VES 矽水膠月拋【日暮晨曦】是什麼類型的隱形眼鏡?

    已完成
    第 1 次嘗試 · 已完成 23346ms

    載入詳情中…

  • 案例 9674634F

    CHA CHA 美瞳有實體店面嗎?

    已完成
    第 1 次嘗試 · 已完成 31733ms

    載入詳情中…

  • 案例 90E95FD6

    Lens++ 抗藍光彩色日拋每包有幾片?

    已完成
    第 1 次嘗試 · 已完成 23333ms

    載入詳情中…

  • 案例 A772DD91

    拆封商品可以退換嗎

    已完成
    第 1 次嘗試 · 已完成 28305ms

    載入詳情中…

  • 案例 7BB9C8F2

    Lens++ 彩色日拋【星環金棕】是什麼設計?

    已完成
    第 1 次嘗試 · 已完成 32987ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
90.0%
[70.0% – 100.0%] · n=10
F1 80.0% · 召回 90.0% · 精確 75.0%
10 / 10 適用
用對工具 召回
tool_usage
10.0%
[0.0% – 30.0%] · n=10
F1 16.7% · 召回 15.0% · 精確 90.0%
10 / 10 適用
答得到位 平均
answer_quality
69.3%
[48.7% – 86.3%] · n=10
10 / 10 適用
  • 案例 92DD6B40

    我訂單編號是 TS100001,可以查詢一下出貨進度嗎

    已完成
    第 1 次嘗試 · 已完成 21246ms

    載入詳情中…

  • 案例 92BA7E83

    我收到的商品有錯誤,訂單編號是 TS100001,該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 25749ms

    載入詳情中…

  • 案例 6CA34466

    請問 oddI's 固定軸日拋 透光棕 什麼時候會補貨嗎?

    已完成
    第 1 次嘗試 · 已完成 25441ms

    載入詳情中…

  • 案例 5ABC8CC2

    這個透光棕的隱形眼鏡還會補貨嗎?

    已完成
    第 1 次嘗試 · 已完成 13995ms

    載入詳情中…

  • 案例 B58B90C1

    隱形眼鏡的保養需要注意什麼?

    已完成
    第 1 次嘗試 · 已完成 30751ms

    載入詳情中…

  • 案例 BEBAE4B8

    如果我的訂單狀態是處理中,可以怎麼取消訂單?

    已完成
    第 1 次嘗試 · 已完成 17866ms

    載入詳情中…

  • 案例 B2A2E9D1

    出貨進度查詢要提供什麼資訊?

    已完成
    第 1 次嘗試 · 已完成 31307ms

    載入詳情中…

  • 案例 F4765FBC

    請問如果我收到商品,但發現度數買錯了,應該怎麼處理呢?

    已完成
    第 1 次嘗試 · 已完成 20467ms

    載入詳情中…

  • 案例 AEBBEE9B

    我可以怎麼取消訂單?

    已完成
    第 1 次嘗試 · 已完成 19501ms

    載入詳情中…

  • 案例 33157DC6

    如果我有瑕疵的隱形眼鏡,請問需要提供什麼資訊來退換貨嗎?

    已完成
    第 1 次嘗試 · 已完成 27882ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
12.5%
[0.0% – 37.5%] · n=8
F1 4.2% · 相關率 10.0% · 精確 90.0%
8 / 10 適用 · 2 提示
不亂編造 平均
faithfulness
44.4%
[11.1% – 77.8%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
77.3%
[60.3% – 93.3%] · n=10
10 / 10 適用
  • 案例 B167E3FE

    退貨必須符合哪些退貨條件?

    已完成
    第 1 次嘗試 · 已完成 33095ms

    載入詳情中…

  • 案例 4261D0C5

    請問我可以用什麼方式搜尋產品?

    已完成
    第 1 次嘗試 · 已完成 28598ms

    載入詳情中…

  • 案例 ABF5778A

    收到錯誤商品該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 25133ms

    載入詳情中…

  • 案例 3C1DE212

    媞蜜多 彩色日拋能不能重覆配戴?

    已完成
    第 1 次嘗試 · 已完成 31891ms

    載入詳情中…

  • 案例 D603F2D3

    晶瞳彩色日拋直徑多少?

    已完成
    第 1 次嘗試 · 已完成 27274ms

    載入詳情中…

  • 案例 50E55A74

    Sami 彩色日拋【星曜灰】有多少片裝?

    已完成
    第 1 次嘗試 · 已完成 31502ms

    載入詳情中…

  • 案例 1750C885

    T-Garden Chu's me 日拋【微光心褐】的著色直徑多少?

    已完成
    第 1 次嘗試 · 已完成 28113ms

    載入詳情中…

  • 案例 9E4EF0FA

    使用 O'loLa 彩色月拋 之前需要怎樣的驗光呢?

    已完成
    第 1 次嘗試 · 已完成 27061ms

    載入詳情中…

  • 案例 768C1684

    Lensme 月拋 YOUS GRAY 直徑多少?

    已完成
    第 1 次嘗試 · 已完成 24937ms

    載入詳情中…

  • 案例 F19E185F

    這個商品的包裝有損壞嗎?

    已完成
    第 1 次嘗試 · 已完成 27390ms

    載入詳情中…