執行 #244

VIGILL - Malaysia (bulk R1) → production-canary (canary)

狀態
已完成
案例
30
開始時間
16 May 12:37
耗時
471.2s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2790
Total Bot Cost · USD
76.7%
Prompt Cache Hit
cost per case
$0.0093
cost per 1k tokens
$0.0010
input tokens
272,511
output tokens
5,968
cached tokens — prompt-cache hit
209,152
Total Tokens
278,479
economic efficiency
cost per correct
$0.0020
pass rate
60.0%
18 / 30
judge cost
$0.0353
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • a52d1832-a313-41ff-87b0-9d175296e425 10 筆 KB
    SystemPrompt: sha256:82a7c3c5 KBContent: sha256:22518fb9 Tools: sha256:ac965c96 Scenarios: sha256:facdffeb AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
7
首字延遲 p95
11029 ms
Bot 成本(Neptune)
$0.2790
Bot Tokens(Neptune)
278,479
Judge 成本(Eris)
$0.0353
Judge Tokens(Eris)
256,582
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
80.0%
[50.0% – 100.0%] · n=10
F1 26.7% · 相關率 52.5% · 精確 16.0%
10 / 10 適用 · 3 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
82.3%
[66.7% – 95.0%] · n=10
10 / 10 適用
  • 案例 26571CBA

    美白精華100ml有什麼效果?

    已完成
    第 1 次嘗試 · 已完成 44874ms

    載入詳情中…

  • 案例 374EBD7F

    美白凝露30ML是專為什麼設計的?

    已完成
    第 1 次嘗試 · 已完成 50729ms

    載入詳情中…

  • 案例 A8C8AF37

    Whitening Gel 100ml 有什麼效果?

    已完成
    第 1 次嘗試 · 已完成 49309ms

    載入詳情中…

  • 案例 905E39E7

    極植零菌免洗內褲是什麼材料做的?

    已完成
    第 1 次嘗試 · 已完成 40988ms

    載入詳情中…

  • 案例 8CCC4BEA

    GEL 和 Serum 需要一起使用嗎?

    已完成
    第 1 次嘗試 · 已完成 56312ms

    載入詳情中…

  • 案例 B6D712E0

    請問法式柔密除毛貼片的材料是什麼?

    已完成
    第 1 次嘗試 · 已完成 66410ms

    載入詳情中…

  • 案例 F31A780A

    Whitening Gel 100ml可以用在大腿內側嗎?

    已完成
    第 1 次嘗試 · 已完成 45391ms

    載入詳情中…

  • 案例 62210AD2

    VIGILL 女性湿式卫生纸一包有多少抽?

    已完成
    第 1 次嘗試 · 已完成 48439ms

    載入詳情中…

  • 案例 5F19B7BD

    Brightening Cream (Pink) 要沖洗嗎?

    已完成
    第 1 次嘗試 · 已完成 36139ms

    載入詳情中…

  • 案例 42A9A8DF

    請問賦活美白組裡面有什麼產品?

    已完成
    第 1 次嘗試 · 已完成 57219ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
80.0%
[50.0% – 100.0%] · n=10
F1 70.0% · 召回 80.0% · 精確 65.0%
10 / 10 適用
用對工具 召回
tool_usage
16.7%
[0.0% – 50.0%] · n=6
F1 27.8% · 召回 25.0% · 精確 66.7%
6 / 10 適用
答得到位 平均
answer_quality
68.0%
[51.3% – 82.3%] · n=10
10 / 10 適用
  • 案例 4AC575F1

    我想要團體大量訂購,請問需要提供什麼資料?

    已完成
    第 1 次嘗試 · 已完成 33698ms

    載入詳情中…

  • 案例 D1845D41

    這款高效舒淨防護噴霧有貨嗎?

    已完成
    第 1 次嘗試 · 已完成 38956ms

    載入詳情中…

  • 案例 68F9C3CB

    這個私密沐浴露還有庫存嗎?

    已完成
    第 1 次嘗試 · 已完成 25956ms

    載入詳情中…

  • 案例 93FC41EB

    我想查詢我的訂單進度,訂單號碼是什麼呢?

    已完成
    第 1 次嘗試 · 已完成 42366ms

    載入詳情中…

  • 案例 726912FE

    請問我的訂單進度如何?

    已完成
    第 1 次嘗試 · 已完成 17023ms

    載入詳情中…

  • 案例 BF8CD18A

    我收到的商品壞掉了,怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 18489ms

    載入詳情中…

  • 案例 FCCBC8E7

    最近登入有問題,無法進入我的賬號,這個怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 42411ms

    載入詳情中…

  • 案例 FFFF44E6

    可以先問客製化的需求嗎?

    已完成
    第 1 次嘗試 · 已完成 33350ms

    載入詳情中…

  • 案例 3E90B2BD

    如果訂單編號查不到,系統會怎麼處理呢?

    已完成
    第 1 次嘗試 · 已完成 43280ms

    載入詳情中…

  • 案例 45B217FD

    為什麼收到的商品有瑕疵?

    已完成
    第 1 次嘗試 · 已完成 60117ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
62.5%
[25.0% – 100.0%] · n=8
F1 20.2% · 相關率 47.5% · 精確 12.1%
8 / 10 適用 · 3 提示
不亂編造 平均
faithfulness
80.0%
[60.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
62.3%
[39.3% – 83.3%] · n=10
10 / 10 適用
  • 案例 0C7F9A40

    美白3件组可以分開用嗎?

    已完成
    第 1 次嘗試 · 已完成 49620ms

    載入詳情中…

  • 案例 8E5C2A80

    VIGILL私密护理液有益生元嗎?

    已完成
    第 1 次嘗試 · 已完成 61623ms

    載入詳情中…

  • 案例 751F5661

    我怎麼可以查以前的對話記錄?

    已完成
    第 1 次嘗試 · 已完成 45081ms

    載入詳情中…

  • 案例 B612F0A8

    請問要申請商品瑕疵處理需要提供哪些資料呢?

    已完成
    第 1 次嘗試 · 已完成 48771ms

    載入詳情中…

  • 案例 A5EDF4EE

    這個【赋活美白组】能鎖水保濕嗎?

    已完成
    第 1 次嘗試 · 已完成 48425ms

    載入詳情中…

  • 案例 E2EFE391

    VIGILL私密沐浴露適合什麼樣的肌膚?

    已完成
    第 1 次嘗試 · 已完成 49721ms

    載入詳情中…

  • 案例 5969E3F4

    高效美白精華的配方是什麼?

    已完成
    第 1 次嘗試 · 已完成 49816ms

    載入詳情中…

  • 案例 DBC9B772

    VIGILL享氛沁润保養油的容量是多少?

    已完成
    第 1 次嘗試 · 已完成 35304ms

    載入詳情中…

  • 案例 A3FE7D6F

    VIGILL 妇洁蔓越莓私密益生菌是用什麼技術保護益生菌的?

    已完成
    第 1 次嘗試 · 已完成 66543ms

    載入詳情中…

  • 案例 4E958AB8

    VIGILL私密护理液可以改善私密肌肤的暗沉嗎

    已完成
    第 1 次嘗試 · 已完成 69828ms

    載入詳情中…