執行 #200

PAYUNi AI 小幫手 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 12:15
耗時
754.6s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2053
Total Bot Cost · USD
46.2%
Prompt Cache Hit
cost per case
$0.0068
cost per 1k tokens
$0.0016
input tokens
127,176
output tokens
4,885
cached tokens — prompt-cache hit
58,752
Total Tokens
132,061
economic efficiency
cost per correct
$0.0011
pass rate
80.0%
24 / 30
judge cost
$0.0256
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 182331ea-15f3-4ec4-9ae9-852d66f8c284 130 筆 KB
    SystemPrompt: sha256:e4a7be06 KBContent: sha256:a78ee091 Tools: sha256:e3b0c442 Scenarios: sha256:cc432c2d AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
29062 ms
Bot 成本（Neptune）
$0.2053
Bot Tokens（Neptune）
132,061
Judge 成本（Eris）
$0.0256
Judge Tokens（Eris）
195,912
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 40.0% · 相關率 44.0% · 精確 28.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
97.3%
[94.7% – 100.0%] · n=10
10 / 10 適用
  • 案例 3138A1EB

    請問如果收不到電子信箱驗證要怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 44024ms

    載入詳情中…
  • 案例 8FFC7B1A

    可以在哪裡查詢訂單交易狀態?

    已完成
    第 1 次嘗試 · 已完成 41980ms

    載入詳情中…
  • 案例 BDFCA8C8

    怎麼關閉個資管理的頁面顯示設定?

    已完成
    第 1 次嘗試 · 已完成 33690ms

    載入詳情中…
  • 案例 C4129DF3

    消費者使用刷卡分期時，手續費可以轉嫁嗎

    已完成
    第 1 次嘗試 · 已完成 35969ms

    載入詳情中…
  • 案例 6AD272B6

    上傳證件後，身份驗證要多久?

    已完成
    第 1 次嘗試 · 已完成 28355ms

    載入詳情中…
  • 案例 72A09C57

    為什麼提領狀態顯示處理失敗?

    已完成
    第 1 次嘗試 · 已完成 36812ms

    載入詳情中…
  • 案例 5D9CBA3C

    變更帳號怎麼做

    已完成
    第 1 次嘗試 · 已完成 19561ms

    載入詳情中…
  • 案例 79EA40CD

    使用統一金流需要先註冊嗎

    已完成
    第 1 次嘗試 · 已完成 25385ms

    載入詳情中…
  • 案例 1241B30C

    註冊會員審核後會有通知信嗎

    已完成
    第 1 次嘗試 · 已完成 38704ms

    載入詳情中…
  • 案例 1ACBD2E3

    UNi帳戶的金融帳戶資訊在哪裡看?

    已完成
    第 1 次嘗試 · 已完成 34475ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
90.0%
[70.0% – 100.0%] · n=10
F1 90.0% · 召回 90.0% · 精確 90.0%
10 / 10 適用
用對工具 召回
tool_usage
90.0%
[70.0% – 100.0%] · n=10
F1 90.0% · 召回 90.0% · 精確 100.0%
10 / 10 適用
答得到位 平均
answer_quality
73.3%
[57.0% – 89.0%] · n=10
10 / 10 適用
  • 案例 10656B1B

    查詢有關測試區的資訊，請問要怎麼做測試?

    已完成
    第 1 次嘗試 · 已完成 44893ms

    載入詳情中…
  • 案例 90C3C4E0

    如何查詢你們的產品資訊或知識？

    已完成
    第 1 次嘗試 · 已完成 33100ms

    載入詳情中…
  • 案例 320E08F9

    請問我要怎麼做測試，測試區的網址是什麼？

    已完成
    第 1 次嘗試 · 已完成 26450ms

    載入詳情中…
  • 案例 F622E598

    你們的系統可以一次搜尋產品和知識庫的資料嗎?

    已完成
    第 1 次嘗試 · 已完成 33891ms

    載入詳情中…
  • 案例 98F86A93

    怎麼做測試啊?

    已完成
    第 1 次嘗試 · 已完成 17267ms

    載入詳情中…
  • 案例 252534EC

    查詢需要怎麼做啊

    已完成
    第 1 次嘗試 · 已完成 46341ms

    載入詳情中…
  • 案例 9CE91C7D

    能搜尋哪些知識跟產品?

    已完成
    第 1 次嘗試 · 已完成 46391ms

    載入詳情中…
  • 案例 29A31ACA

    怎麼進入測試區?

    已完成
    第 1 次嘗試 · 已完成 44673ms

    載入詳情中…
  • 案例 9451B7E2

    你們有什麼知識可以查詢的嗎?

    已完成
    第 1 次嘗試 · 已完成 56291ms

    載入詳情中…
  • 案例 C1C6A9C1

    請問有關於測試區的資訊，包括測試區網址和測試卡號，應該如何查詢呢？

    已完成
    第 1 次嘗試 · 已完成 36645ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=9
F1 33.3% · 相關率 35.6% · 精確 20.0%
9 / 10 適用
不亂編造 平均
faithfulness
90.0%
[70.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
87.7%
[72.0% – 98.7%] · n=10
10 / 10 適用
  • 案例 127A0D29

    什麼是非預付型態？

    已完成
    第 1 次嘗試 · 已完成 35129ms

    載入詳情中…
  • 案例 D8F7817A

    我可以轉接真人客服嗎

    已完成
    第 1 次嘗試 · 已完成 19668ms

    載入詳情中…
  • 案例 213F258D

    店到店寄送可以改取件門市嗎

    已完成
    第 1 次嘗試 · 已完成 27288ms

    載入詳情中…
  • 案例 335DE982

    註冊會員要審核多久?

    已完成
    第 1 次嘗試 · 已完成 31277ms

    載入詳情中…
  • 案例 CC2BBA58

    資料加解密怎麼使用?

    已完成
    第 1 次嘗試 · 已完成 21123ms

    載入詳情中…
  • 案例 9B9C020A

    訂單的交易狀態怎麼查?

    已完成
    第 1 次嘗試 · 已完成 27660ms

    載入詳情中…
  • 案例 3C5D7EA0

    驗證電子信箱後，審核多久完成

    已完成
    第 1 次嘗試 · 已完成 27821ms

    載入詳情中…
  • 案例 C520AF8E

    電子信箱是否已超過容量?

    已完成
    第 1 次嘗試 · 已完成 25443ms

    載入詳情中…
  • 案例 7D0A88DD

    使用統一金流需要填寫什麼資料?

    已完成
    第 1 次嘗試 · 已完成 36085ms

    載入詳情中…
  • 案例 B8957982

    已經上傳證件後，多久會變付款成功?

    已完成
    第 1 次嘗試 · 已完成 46728ms

    載入詳情中…