執行 #241

VERVE 小幫手 (bulk R1) → production-baseline

狀態
已完成
案例
30
開始時間
16 May 12:35
耗時
765.8s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2775
Total Bot Cost · USD
54.6%
Prompt Cache Hit
cost per case
$0.0092
cost per 1k tokens
$0.0014
input tokens
192,718
output tokens
6,230
cached tokens — prompt-cache hit
105,216
Total Tokens
198,948
economic efficiency
cost per correct
$0.0012
pass rate
86.7%
26 / 30
judge cost
$0.0307
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • 16534080-54ca-450f-a48a-c45a732ee551 119 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:83e1ceda Tools: sha256:24449463 Scenarios: sha256:442b565c AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
4116 ms
Bot 成本(Neptune)
$0.2775
Bot Tokens(Neptune)
198,948
Judge 成本(Eris)
$0.0306
Judge Tokens(Eris)
229,732
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
90.0%
[70.0% – 100.0%] · n=10
F1 30.0% · 相關率 30.0% · 精確 28.0%
10 / 10 適用 · 4 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
97.3%
[94.3% – 100.0%] · n=10
10 / 10 適用
  • 案例 E50DA85E

    TuffX™ 極限訓練短褲的剪裁設計是什麼?

    已完成
    第 1 次嘗試 · 已完成 20690ms

    載入詳情中…

  • 案例 D5F16A03

    NyFit 的布料有速乾透氣的特性嗎?

    已完成
    第 1 次嘗試 · 已完成 20163ms

    載入詳情中…

  • 案例 6DBA1576

    異形珪藻土杯墊是官方正版授權產品嗎?

    已完成
    第 1 次嘗試 · 已完成 16287ms

    載入詳情中…

  • 案例 8563BD17

    VintageWash 產品環保不易掉色嗎?

    已完成
    第 1 次嘗試 · 已完成 18387ms

    載入詳情中…

  • 案例 715A968A

    KATIE x VERVE 的寬版短袖衣長有多長?

    已完成
    第 1 次嘗試 · 已完成 20457ms

    載入詳情中…

  • 案例 18AD739B

    新品為什麼會有氣味?

    已完成
    第 1 次嘗試 · 已完成 15531ms

    載入詳情中…

  • 案例 DFA198B2

    這件帽衣重多少?

    已完成
    第 1 次嘗試 · 已完成 22371ms

    載入詳情中…

  • 案例 85D840E9

    用 OPENPOINT App 取件要出示身份證件嗎?

    已完成
    第 1 次嘗試 · 已完成 10178ms

    載入詳情中…

  • 案例 A4ECDDC3

    經典刺繡老帽 - Facehugger 還有貨嗎?

    已完成
    第 1 次嘗試 · 已完成 14426ms

    載入詳情中…

  • 案例 E064EBA5

    請問在官網下訂單時,送貨地點要選擇什麼?

    已完成
    第 1 次嘗試 · 已完成 18916ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
80.0%
[50.0% – 100.0%] · n=10
F1 60.0% · 召回 80.0% · 精確 50.0%
10 / 10 適用
用對工具 召回
tool_usage
75.0%
[25.0% – 100.0%] · n=4
F1 75.0% · 召回 75.0% · 精確 75.0%
4 / 10 適用
答得到位 平均
answer_quality
77.3%
[58.0% – 93.0%] · n=10
10 / 10 適用
  • 案例 1160E444

    我想要修改訂單,怎麼做?

    已完成
    第 1 次嘗試 · 已完成 13590ms

    載入詳情中…

  • 案例 41467FE0

    請問出貨時間和到貨時間是怎麼安排的?

    已完成
    第 1 次嘗試 · 已完成 7831ms

    載入詳情中…

  • 案例 61749B5C

    我想要退貨,該怎麼做?

    已完成
    第 1 次嘗試 · 已完成 13813ms

    載入詳情中…

  • 案例 ACAAB5D8

    我今天的訂單沒用到優惠,可以重新下單嗎?

    已完成
    第 1 次嘗試 · 已完成 8551ms

    載入詳情中…

  • 案例 4A24AB61

    當日訂單要怎麼修改啊?

    已完成
    第 1 次嘗試 · 已完成 7999ms

    載入詳情中…

  • 案例 B38ED16B

    為什麼超過 7 天就不能退貨了?

    已完成
    第 1 次嘗試 · 已完成 20422ms

    載入詳情中…

  • 案例 97D94EF0

    我忘記用優惠,能補用嗎?

    已完成
    第 1 次嘗試 · 已完成 11941ms

    載入詳情中…

  • 案例 C09385A4

    這款紫色的布料還有現貨嗎?

    已完成
    第 1 次嘗試 · 已完成 18195ms

    載入詳情中…

  • 案例 08DAE426

    請問紫色的那個產品現在有貨嗎?

    已完成
    第 1 次嘗試 · 已完成 16158ms

    載入詳情中…

  • 案例 6B640216

    退貨申請流程是什麼?

    已完成
    第 1 次嘗試 · 已完成 21034ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
87.5%
[62.5% – 100.0%] · n=8
F1 29.2% · 相關率 27.1% · 精確 30.0%
8 / 10 適用 · 1 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
89.3%
[77.0% – 97.7%] · n=10
10 / 10 適用
  • 案例 98719831

    衣服染色了怎麼處理比較好?

    已完成
    第 1 次嘗試 · 已完成 14772ms

    載入詳情中…

  • 案例 DE6E3736

    這款挖背訓練背心的設計象徵什麼呢?

    已完成
    第 1 次嘗試 · 已完成 21755ms

    載入詳情中…

  • 案例 70DFCF9B

    商品搜尋功能可以查什麼?

    已完成
    第 1 次嘗試 · 已完成 15282ms

    載入詳情中…

  • 案例 7DA90BA6

    請問如果超過 7 天會怎麼樣?

    已完成
    第 1 次嘗試 · 已完成 12441ms

    載入詳情中…

  • 案例 482F293B

    TACTEL® 訓練緊身褲建議選什麼尺寸?

    已完成
    第 1 次嘗試 · 已完成 8096ms

    載入詳情中…

  • 案例 66D7BCA6

    XY-Stretch® 訓練短褲的檔底衩片剪裁適合深蹲訓練嗎?

    已完成
    第 1 次嘗試 · 已完成 23693ms

    載入詳情中…

  • 案例 84CA13FA

    船型領 BraTop 會顯瘦嗎

    已完成
    第 1 次嘗試 · 已完成 28093ms

    載入詳情中…

  • 案例 1D053C6E

    這款輕量剪接短袖的側脇設計有什麼特點?

    已完成
    第 1 次嘗試 · 已完成 26745ms

    載入詳情中…

  • 案例 6C81E3B0

    TACTEL® 方領削背BraTop 的材質是什麼?

    已完成
    第 1 次嘗試 · 已完成 17667ms

    載入詳情中…

  • 案例 E20AB23F

    RibSoft 羅紋修身洋裝的背部設計是什麼樣的呢?

    已完成
    第 1 次嘗試 · 已完成 17847ms

    載入詳情中…