執行 #221

Slothful 小幫手 (bulk R1) → production-baseline

狀態
已完成
案例
30
開始時間
16 May 12:26
耗時
315.1s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2341
Total Bot Cost · USD
53.6%
Prompt Cache Hit
cost per case
$0.0078
cost per 1k tokens
$0.0014
input tokens
168,991
output tokens
3,985
cached tokens — prompt-cache hit
90,496
Total Tokens
172,976
economic efficiency
cost per correct
$0.0013
pass rate
70.0%
21 / 30
judge cost
$0.0271
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • e0678d79-bbde-4844-b0b0-35599e83ee65 21 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:70b3fba9 Tools: sha256:bbb64a3b Scenarios: sha256:81fb70af AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
6
首字延遲 p95
3445 ms
Bot 成本(Neptune)
$0.2341
Bot Tokens(Neptune)
172,976
Judge 成本(Eris)
$0.0271
Judge Tokens(Eris)
205,191
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 33.3% · 相關率 32.0% · 精確 20.0%
10 / 10 適用 · 2 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
93.0%
[82.3% – 100.0%] · n=10
10 / 10 適用
  • 案例 CC9EF028

    XL尺寸的褲口寬多少?

    已完成
    第 1 次嘗試 · 已完成 17631ms

    載入詳情中…

  • 案例 0EA18700

    輕量隨身小包的設計有多輕巧呢?

    已完成
    第 1 次嘗試 · 已完成 28544ms

    載入詳情中…

  • 案例 CA42B636

    半包拖鞋推薦的尺寸是什麼?

    已完成
    第 1 次嘗試 · 已完成 38102ms

    載入詳情中…

  • 案例 6B871435

    這個衣服會縮水嗎

    已完成
    第 1 次嘗試 · 已完成 21970ms

    載入詳情中…

  • 案例 704E9CCE

    條紋毛巾底中筒襪的重量多少?

    已完成
    第 1 次嘗試 · 已完成 29444ms

    載入詳情中…

  • 案例 1A2F0F16

    L尺寸的褲口寬是多少?

    已完成
    第 1 次嘗試 · 已完成 15967ms

    載入詳情中…

  • 案例 1579F56C

    請問直條紋彎刀褲有哪些口袋設計呢?

    已完成
    第 1 次嘗試 · 已完成 35410ms

    載入詳情中…

  • 案例 54DC9454

    這款褲子適合什麼季節穿搭?

    已完成
    第 1 次嘗試 · 已完成 26208ms

    載入詳情中…

  • 案例 C9460391

    異色拼接立領羽絨外套的面布和裡布材質是什麼?

    已完成
    第 1 次嘗試 · 已完成 20493ms

    載入詳情中…

  • 案例 8A457FCF

    這款褲子是什麼版型?

    已完成
    第 1 次嘗試 · 已完成 22078ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
80.0%
[50.0% – 100.0%] · n=10
F1 76.7% · 召回 80.0% · 精確 75.0%
10 / 10 適用
用對工具 召回
tool_usage
87.5%
[62.5% – 100.0%] · n=8
F1 87.5% · 召回 87.5% · 精確 87.5%
8 / 10 適用
答得到位 平均
answer_quality
42.7%
[23.3% – 61.0%] · n=10
10 / 10 適用
  • 案例 B9B9598D

    請問有沒有適合過年穿的衣服推薦?

    已完成
    第 1 次嘗試 · 已完成 23034ms

    載入詳情中…

  • 案例 A112F67F

    這個髮片怎麼使用啊?

    已完成
    第 1 次嘗試 · 已完成 23359ms

    載入詳情中…

  • 案例 48EFBF64

    髮片有現貨嗎?

    已完成
    第 1 次嘗試 · 已完成 16469ms

    載入詳情中…

  • 案例 0A9D0587

    退貨包裹長度超過 45 公分可以用什麼方式寄回?

    已完成
    第 1 次嘗試 · 已完成 14992ms

    載入詳情中…

  • 案例 3FBDF829

    請問我想查詢訂單,訂單編號是 12345678901234567,這筆訂單目前狀態如何?

    已完成
    第 1 次嘗試 · 已完成 12418ms

    載入詳情中…

  • 案例 34D38315

    有沒有適合過年的 T 恤推薦?

    已完成
    第 1 次嘗試 · 已完成 25015ms

    載入詳情中…

  • 案例 90632FEF

    最近有什麼活動或優惠嗎?

    已完成
    第 1 次嘗試 · 已完成 32490ms

    載入詳情中…

  • 案例 75AA91B4

    請問微增髮片的價格大約是多少呢?

    已完成
    第 1 次嘗試 · 已完成 13854ms

    載入詳情中…

  • 案例 E4946CFE

    請問退換貨申請需要提供什麼資訊?特別是訂單編號的格式是什麼?

    已完成
    第 1 次嘗試 · 已完成 18557ms

    載入詳情中…

  • 案例 5DACDD1A

    我的訂單編號是 12345678901234567,可以查詢一下嗎?

    已完成
    第 1 次嘗試 · 已完成 11819ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=9
F1 33.3% · 相關率 32.2% · 精確 20.0%
9 / 10 適用 · 4 提示
不亂編造 平均
faithfulness
88.9%
[66.7% – 100.0%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
93.0%
[81.0% – 100.0%] · n=10
10 / 10 適用
  • 案例 3F3387A1

    這款商品會有色差嗎

    已完成
    第 1 次嘗試 · 已完成 24354ms

    載入詳情中…

  • 案例 66F5E409

    半包拖鞋的歐規尺寸範圍是多少?

    已完成
    第 1 次嘗試 · 已完成 25173ms

    載入詳情中…

  • 案例 83D4E60B

    OUTDOOR機能短褲的腰頭設計是什麼?

    已完成
    第 1 次嘗試 · 已完成 27674ms

    載入詳情中…

  • 案例 7AFA714B

    如果我有更複雜的問題,可以轉接到人類客服嗎?

    已完成
    第 1 次嘗試 · 已完成 7591ms

    載入詳情中…

  • 案例 57FD7365

    特殊剪裁彎刀褲有口袋嗎

    已完成
    第 1 次嘗試 · 已完成 21207ms

    載入詳情中…

  • 案例 8DF651EA

    弧線剪裁牛仔寬褲是寬鬆版型嗎

    已完成
    第 1 次嘗試 · 已完成 22349ms

    載入詳情中…

  • 案例 C29DBB91

    NOIR 美式高校拼色V領背心有什麼特點?

    已完成
    第 1 次嘗試 · 已完成 28936ms

    載入詳情中…

  • 案例 60EBBD09

    山系五分帽 - 小LOGO 的抽繩可以調整嗎?

    已完成
    第 1 次嘗試 · 已完成 26984ms

    載入詳情中…

  • 案例 B51AD324

    請問寬版大口袋七分褲的材質是什麼?

    已完成
    第 1 次嘗試 · 已完成 21264ms

    載入詳情中…

  • 案例 0B04C1B7

    懶妹日常長袖T的設計是什麼樣的?

    已完成
    第 1 次嘗試 · 已完成 29288ms

    載入詳情中…