執行 #126

GH 智能客服 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 11:41
耗時
460.2s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1815
Total Bot Cost · USD
74.9%
Prompt Cache Hit
cost per case
$0.0061
cost per 1k tokens
$0.0010
input tokens
169,700
output tokens
4,097
cached tokens — prompt-cache hit
127,104
Total Tokens
173,797
economic efficiency
cost per correct
$0.0012
pass rate
76.7%
23 / 30
judge cost
$0.0278
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • d083f3c9-5233-42c3-a48c-9eb8b8d89a4e 119 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:aa3ae1c6 Tools: sha256:cb414772 Scenarios: sha256:fa5ab938 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
10345 ms
Bot 成本（Neptune）
$0.1815
Bot Tokens（Neptune）
173,797
Judge 成本（Eris）
$0.0278
Judge Tokens（Eris）
213,635
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 33.3% · 相關率 46.0% · 精確 20.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
95.7%
[92.3% – 98.7%] · n=10
10 / 10 適用
  • 案例 0E321BAD

    晚上到可以入住嗎？需要怎麼做？

    已完成
    第 1 次嘗試 · 已完成 35519ms

    載入詳情中…
  • 案例 D1C69699

    湖光別墅 (J棟) 二樓有幾間房間?

    已完成
    第 1 次嘗試 · 已完成 39376ms

    載入詳情中…
  • 案例 19943A15

    當天臨時取消的退費標準是什麼？

    已完成
    第 1 次嘗試 · 已完成 29499ms

    載入詳情中…
  • 案例 743FDB77

    暮光經濟雙人房的房間坪數是多少？

    已完成
    第 1 次嘗試 · 已完成 34489ms

    載入詳情中…
  • 案例 36574131

    付款政策是什麼？

    已完成
    第 1 次嘗試 · 已完成 39309ms

    載入詳情中…
  • 案例 5B16DCCC

    請問我可以在入住前寄放行李嗎？

    已完成
    第 1 次嘗試 · 已完成 48368ms

    載入詳情中…
  • 案例 D2DB8B40

    碧湖豪華四人房 (A區) 有電視嗎

    已完成
    第 1 次嘗試 · 已完成 61870ms

    載入詳情中…
  • 案例 EC138BF6

    如果我要變更入住日期可以嗎？

    已完成
    第 1 次嘗試 · 已完成 56555ms

    載入詳情中…
  • 案例 5B80BC91

    迎山別墅 (I棟) 可以住幾個人?

    已完成
    第 1 次嘗試 · 已完成 46731ms

    載入詳情中…
  • 案例 DB0F2B02

    春節期間的房價會貴嗎？

    已完成
    第 1 次嘗試 · 已完成 44683ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
90.0%
[70.0% – 100.0%] · n=10
F1 80.0% · 召回 90.0% · 精確 75.0%
10 / 10 適用
用對工具 召回
tool_usage
60.0%
[30.0% – 90.0%] · n=10
F1 60.0% · 召回 60.0% · 精確 60.0%
10 / 10 適用
答得到位 平均
answer_quality
58.7%
[45.7% – 71.0%] · n=10
10 / 10 適用
  • 案例 FA0F3EA4

    請問有關活動報名的優惠或折扣有哪些？

    已完成
    第 1 次嘗試 · 已完成 26796ms

    載入詳情中…
  • 案例 65D7AE98

    請問清洗這個髮片的方式是什麼？有沒有特別的注意事項？

    已完成
    第 1 次嘗試 · 已完成 43174ms

    載入詳情中…
  • 案例 58AFD63A

    請問我可以查詢我的訂單詳細資訊嗎？

    已完成
    第 1 次嘗試 · 已完成 53456ms

    載入詳情中…
  • 案例 66FB2307

    現在有什麼優惠活動嗎?

    已完成
    第 1 次嘗試 · 已完成 47526ms

    載入詳情中…
  • 案例 81468F8B

    活動有沒有優惠或折扣?

    已完成
    第 1 次嘗試 · 已完成 33195ms

    載入詳情中…
  • 案例 E4DD09AE

    我的訂單狀態怎麼查?

    已完成
    第 1 次嘗試 · 已完成 26645ms

    載入詳情中…
  • 案例 D36123F2

    如果沒有找到我之前的訂單，會提供什麼協助?

    已完成
    第 1 次嘗試 · 已完成 27951ms

    載入詳情中…
  • 案例 7D65E737

    我想查詢我的訂單，怎麼做?

    已完成
    第 1 次嘗試 · 已完成 29558ms

    載入詳情中…
  • 案例 211326BB

    請問有關最近的活動和優惠有哪些資訊？

    已完成
    第 1 次嘗試 · 已完成 28963ms

    載入詳情中…
  • 案例 C4A3E5D6

    我的訂單查詢有沒有找到?

    已完成
    第 1 次嘗試 · 已完成 25479ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=8
F1 33.3% · 相關率 40.0% · 精確 20.0%
8 / 10 適用 · 1 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
80.7%
[64.3% – 95.3%] · n=10
10 / 10 適用
  • 案例 C34CCE87

    請問會議室有提供投影機和音響嗎？

    已完成
    第 1 次嘗試 · 已完成 27986ms

    載入詳情中…
  • 案例 B4E3D19A

    請問暮光標準三人房的房間坪數為多少？

    已完成
    第 1 次嘗試 · 已完成 31967ms

    載入詳情中…
  • 案例 BFD8376D

    電商訂單搜尋是怎麼運作的?

    已完成
    第 1 次嘗試 · 已完成 34239ms

    載入詳情中…
  • 案例 D2FB5A12

    什麼情況下可以轉接真人客服?

    已完成
    第 1 次嘗試 · 已完成 35358ms

    載入詳情中…
  • 案例 846FF681

    兒童餐適用的年齡範圍是幾歲？

    已完成
    第 1 次嘗試 · 已完成 40178ms

    載入詳情中…
  • 案例 B211DB08

    雲香園的香酥炸豆腐好吃嗎？

    已完成
    第 1 次嘗試 · 已完成 54098ms

    載入詳情中…
  • 案例 52151360

    訂房確認後會收到什麼通知?

    已完成
    第 1 次嘗試 · 已完成 32005ms

    載入詳情中…
  • 案例 AA5F2041

    火鍋饗宴有什麼套餐？

    已完成
    第 1 次嘗試 · 已完成 51568ms

    載入詳情中…
  • 案例 7DD0629D

    如果晚上九點後到，怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 35008ms

    載入詳情中…
  • 案例 6FDDE437

    請問晚餐可以加訂火鍋饗宴或燒肉饗宴嗎？

    已完成
    第 1 次嘗試 · 已完成 40919ms

    載入詳情中…