執行 #202

REAL POWER (bulk R1) → production-canary (canary)

狀態
已完成
案例
30
開始時間
16 May 12:15
耗時
1468.2s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1845
Total Bot Cost · USD
74.6%
Prompt Cache Hit
cost per case
$0.0061
cost per 1k tokens
$0.0011
input tokens
162,097
output tokens
5,217
cached tokens — prompt-cache hit
120,960
Total Tokens
167,314
economic efficiency
cost per correct
$0.0013
pass rate
76.7%
23 / 30
judge cost
$0.0294
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • 35d312f3-dcbd-45d8-8351-f3618e8ba67a 14 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:acc5f87d Tools: sha256:44e0a5a0 Scenarios: sha256:32776a40 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
11596 ms
Bot 成本(Neptune)
$0.1845
Bot Tokens(Neptune)
167,314
Judge 成本(Eris)
$0.0294
Judge Tokens(Eris)
218,550
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 33.3% · 相關率 20.0% · 精確 20.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
97.7%
[95.3% – 99.3%] · n=10
10 / 10 適用
  • 案例 0EF9D1ED

    瑞威寵糧到底要吃完一包再換嗎

    已完成
    第 1 次嘗試 · 已完成 37807ms

    載入詳情中…

  • 案例 BE05EA51

    3號海洋魚貝舒敏護膚適合什麼毛孩?

    已完成
    第 1 次嘗試 · 已完成 21042ms

    載入詳情中…

  • 案例 753C6782

    狗狗腸胃敏感要選什麼配方?

    已完成
    第 1 次嘗試 · 已完成 27642ms

    載入詳情中…

  • 案例 E226101B

    2號森林燉雞適合消化敏感的毛孩嗎?

    已完成
    第 1 次嘗試 · 已完成 20559ms

    載入詳情中…

  • 案例 4F816250

    熟齡犬的 5號配方有什麼特點?

    已完成
    第 1 次嘗試 · 已完成 35664ms

    載入詳情中…

  • 案例 C719CFAC

    6號田園野虻體態關節適合什麼毛孩?

    已完成
    第 1 次嘗試 · 已完成 28063ms

    載入詳情中…

  • 案例 7765BE81

    全齡寵糧可以針對什麼需求選配方?

    已完成
    第 1 次嘗試 · 已完成 45760ms

    載入詳情中…

  • 案例 E3133507

    4號河岸雁鴨適合什麼毛孩?

    已完成
    第 1 次嘗試 · 已完成 32480ms

    載入詳情中…

  • 案例 5FE0BE1E

    瑞威寵糧的配方有什麼特別之處?

    已完成
    第 1 次嘗試 · 已完成 32702ms

    載入詳情中…

  • 案例 C434A74E

    5號湖畔水鱉有心臟保健功能嗎?

    已完成
    第 1 次嘗試 · 已完成 37321ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
90.0%
[70.0% – 100.0%] · n=10
F1 86.7% · 召回 90.0% · 精確 85.0%
10 / 10 適用
用對工具 召回
tool_usage
80.0%
[50.0% – 100.0%] · n=10
F1 80.0% · 召回 80.0% · 精確 80.0%
10 / 10 適用
答得到位 平均
answer_quality
57.0%
[37.7% – 74.0%] · n=10
10 / 10 適用
  • 案例 FDEE5DF3

    你們的服務時間是什麼時候?

    已完成
    第 1 次嘗試 · 已完成 46277ms

    載入詳情中…

  • 案例 4338A5BD

    我該怎麼選擇幼犬和全齡狗狗的飼料?

    已完成
    第 1 次嘗試 · 已完成 30969ms

    載入詳情中…

  • 案例 CD71B83F

    你們有沒有活動或優惠的資訊呢?

    已完成
    第 1 次嘗試 · 已完成 34687ms

    載入詳情中…

  • 案例 FEA14086

    如果我遇到技術問題,像是無法使用或登錄錯誤,應該怎麼處理?

    已完成
    第 1 次嘗試 · 已完成 35102ms

    載入詳情中…

  • 案例 616B1251

    幼犬的飼料功能和價格大概是多少?

    已完成
    第 1 次嘗試 · 已完成 45727ms

    載入詳情中…

  • 案例 3715B416

    訂單查詢,要提供什麼資訊?

    已完成
    第 1 次嘗試 · 已完成 29580ms

    載入詳情中…

  • 案例 7FFEEC4C

    請問全犬糧和幼犬糧有什麼差別?

    已完成
    第 1 次嘗試 · 已完成 38627ms

    載入詳情中…

  • 案例 72872B53

    我的訂單編號是 TS100001,可以幫我查詢訂單進度嗎?

    已完成
    第 1 次嘗試 · 已完成 34682ms

    載入詳情中…

  • 案例 65C0C11F

    我的訂單進度查詢怎麼做?

    已完成
    第 1 次嘗試 · 已完成 29890ms

    載入詳情中…

  • 案例 ADCB1A93

    請問狗狗如果遇到技術問題,比如無法使用或設定出錯,該怎麼辦呢?

    已完成
    第 1 次嘗試 · 已完成 27618ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=9
F1 33.3% · 相關率 20.0% · 精確 20.0%
9 / 10 適用
不亂編造 平均
faithfulness
90.0%
[70.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
94.3%
[87.7% – 99.3%] · n=10
10 / 10 適用
  • 案例 B82BE1B2

    狗狗腸胃敏感要選什麼配方?

    已完成
    第 1 次嘗試 · 已完成 30101ms

    載入詳情中…

  • 案例 7F1B8E70

    6號田園野虻體態關節適合什麼毛孩?

    已完成
    第 1 次嘗試 · 已完成 30525ms

    載入詳情中…

  • 案例 30AB7DED

    什麼情況下可以轉接真人客服?

    已完成
    第 1 次嘗試 · 已完成 40997ms

    載入詳情中…

  • 案例 B63EC9BA

    全齡寵糧可以根據什麼挑選配方?

    已完成
    第 1 次嘗試 · 已完成 44222ms

    載入詳情中…

  • 案例 F89A63C1

    毛孩有健康問題,可以不用吃藥嗎

    已完成
    第 1 次嘗試 · 已完成 32773ms

    載入詳情中…

  • 案例 4102898E

    瑞威寵糧的配方有使用水解技術嗎?

    已完成
    第 1 次嘗試 · 已完成 25081ms

    載入詳情中…

  • 案例 BEE50FF8

    獸醫建議吃處方飼料後,什麼時候可以換回日常飼料?

    已完成
    第 1 次嘗試 · 已完成 28551ms

    載入詳情中…

  • 案例 99A0A4F6

    瑞威寵糧應該吃完一包再換嗎

    已完成
    第 1 次嘗試 · 已完成 57818ms

    載入詳情中…

  • 案例 AAF56552

    濕食餵食法可以包括哪些食物?

    已完成
    第 1 次嘗試 · 已完成 45885ms

    載入詳情中…

  • 案例 C8ABDF2A

    請問熟齡犬或大型犬需要哪些保健食品?

    已完成
    第 1 次嘗試 · 已完成 31825ms

    載入詳情中…