執行 #160

LHiDS AI 小幫手 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 11:56
耗時
434.3s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2708
Total Bot Cost · USD
71.1%
Prompt Cache Hit
cost per case
$0.0090
cost per 1k tokens
$0.0012
input tokens
226,932
output tokens
7,358
cached tokens — prompt-cache hit
161,280
Total Tokens
234,290
economic efficiency
cost per correct
$0.0013
pass rate
80.0%
24 / 30
judge cost
$0.0318
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • db14549d-1926-4fa9-a460-ad91d5f37633 107 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:67821234 Tools: sha256:779242c0 Scenarios: sha256:aae16eaf AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
3
首字延遲 p95
7851 ms
Bot 成本（Neptune）
$0.2708
Bot Tokens（Neptune）
234,290
Judge 成本（Eris）
$0.0318
Judge Tokens（Eris）
240,579
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
60.0%
[30.0% – 90.0%] · n=10
F1 20.0% · 相關率 29.0% · 精確 22.0%
10 / 10 適用 · 3 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
83.3%
[64.0% – 98.3%] · n=10
10 / 10 適用
  • 案例 F73331C9

    壁面收納磚可以搭配什麼配件使用?

    已完成
    第 1 次嘗試 · 已完成 79972ms

    載入詳情中…
  • 案例 96F585E2

    請問這款備忘板預計幾天出貨？

    已完成
    第 1 次嘗試 · 已完成 30039ms

    載入詳情中…
  • 案例 F7B65EE9

    請問金卡會員的生日禮金是多少呢？

    已完成
    第 1 次嘗試 · 已完成 24092ms

    載入詳情中…
  • 案例 3EFA4DDE

    壓克力展示支架可以搭配裁形磁鐵組使用嗎

    已完成
    第 1 次嘗試 · 已完成 28125ms

    載入詳情中…
  • 案例 E434EC3A

    LHiDS 官網現在可以配送到新加坡嗎?

    已完成
    第 1 次嘗試 · 已完成 41559ms

    載入詳情中…
  • 案例 AE896EA9

    這組磁鐵有幾個啊?

    已完成
    第 1 次嘗試 · 已完成 53598ms

    載入詳情中…
  • 案例 685ADA7E

    當月有哪些優惠活動可以查詢?

    已完成
    第 1 次嘗試 · 已完成 44058ms

    載入詳情中…
  • 案例 1B98C329

    磁吸紙夾和輕巧隨扣夾有什麼版本可選擇？

    已完成
    第 1 次嘗試 · 已完成 62703ms

    載入詳情中…
  • 案例 99C8D20E

    這款產品耐刮嗎？

    已完成
    第 1 次嘗試 · 已完成 35961ms

    載入詳情中…
  • 案例 7D723C8A

    訂單進入製作流程後，能不能修改？

    已完成
    第 1 次嘗試 · 已完成 26067ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
100.0%
[100.0% – 100.0%] · n=10
F1 70.0% · 召回 100.0% · 精確 55.0%
10 / 10 適用
用對工具 召回
tool_usage
77.8%
[44.4% – 100.0%] · n=9
F1 77.8% · 召回 77.8% · 精確 77.8%
9 / 10 適用
答得到位 平均
answer_quality
69.7%
[48.7% – 86.7%] · n=10
10 / 10 適用
  • 案例 05DA01AD

    請問一下，最近有沒有優惠活動呢？

    已完成
    第 1 次嘗試 · 已完成 40325ms

    載入詳情中…
  • 案例 B653706D

    請問我要退貨的時候，需要提供哪些資訊呢？

    已完成
    第 1 次嘗試 · 已完成 45451ms

    載入詳情中…
  • 案例 17234B83

    我想查詢我的訂單狀態，該怎麼做?

    已完成
    第 1 次嘗試 · 已完成 24175ms

    載入詳情中…
  • 案例 EFBC8060

    你們有哪些熱門商品推薦？

    已完成
    第 1 次嘗試 · 已完成 68805ms

    載入詳情中…
  • 案例 0EE51D83

    這款產品有貨嗎?

    已完成
    第 1 次嘗試 · 已完成 39142ms

    載入詳情中…
  • 案例 3192D2A7

    我的訂單查詢為什麼找不到相關資訊？

    已完成
    第 1 次嘗試 · 已完成 32932ms

    載入詳情中…
  • 案例 BC1D7712

    最近有哪些熱門新品或推薦的產品?

    已完成
    第 1 次嘗試 · 已完成 37073ms

    載入詳情中…
  • 案例 D967C8AC

    最新商品有哪些?

    已完成
    第 1 次嘗試 · 已完成 32706ms

    載入詳情中…
  • 案例 606529B4

    這款收納磚還有貨嗎？

    已完成
    第 1 次嘗試 · 已完成 25668ms

    載入詳情中…
  • 案例 F2C32A08

    有沒有動物方城市的貨?

    已完成
    第 1 次嘗試 · 已完成 32833ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
77.8%
[44.4% – 100.0%] · n=9
F1 25.9% · 相關率 37.8% · 精確 15.6%
9 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
89.7%
[76.0% – 99.0%] · n=10
10 / 10 適用
  • 案例 AD1C8C09

    請問滿足什麼條件可以升級為金卡會員？

    已完成
    第 1 次嘗試 · 已完成 20531ms

    載入詳情中…
  • 案例 B5C9849B

    輕薄手機引磁貼片會阻擋無線充電嗎?

    已完成
    第 1 次嘗試 · 已完成 46734ms

    載入詳情中…
  • 案例 68865877

    查詢訂單需要提供什麼資訊?

    已完成
    第 1 次嘗試 · 已完成 38107ms

    載入詳情中…
  • 案例 DC73BA66

    這個賽車系列收納磚幾天出貨?

    已完成
    第 1 次嘗試 · 已完成 47381ms

    載入詳情中…
  • 案例 898FA0D1

    LHiDS 標語造型磁鐵組可以磁吸什麼嗎?

    已完成
    第 1 次嘗試 · 已完成 52266ms

    載入詳情中…
  • 案例 5D2946A8

    這個專屬收納磚家裡面有哪些配件?

    已完成
    第 1 次嘗試 · 已完成 59790ms

    載入詳情中…
  • 案例 F105344E

    這個長形收納磚預計幾天內出貨？

    已完成
    第 1 次嘗試 · 已完成 63822ms

    載入詳情中…
  • 案例 390D027F

    3M無痕掛扣膠條可以用在S尺寸的魔鬼氈系列品嗎

    已完成
    第 1 次嘗試 · 已完成 37920ms

    載入詳情中…
  • 案例 01B5B539

    趣味動物造型磁鐵組的材質是什麼?

    已完成
    第 1 次嘗試 · 已完成 36872ms

    載入詳情中…
  • 案例 638D7C8B

    這個文具配件組合有包含磁吸收納產品嗎?

    已完成
    第 1 次嘗試 · 已完成 44720ms

    載入詳情中…