執行 #199

PAYUNi AI 小幫手 (bulk R1) → production-baseline

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 12:14
耗時
624.4s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2454
Total Bot Cost · USD
11.7%
Prompt Cache Hit
cost per case
$0.0082
cost per 1k tokens
$0.0021
input tokens
113,889
output tokens
4,698
cached tokens — prompt-cache hit
13,312
Total Tokens
118,587
economic efficiency
cost per correct
$0.0010
pass rate
83.3%
25 / 30
judge cost
$0.0249
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 182331ea-15f3-4ec4-9ae9-852d66f8c284 130 筆 KB
    SystemPrompt: sha256:e4a7be06 KBContent: sha256:a78ee091 Tools: sha256:e3b0c442 Scenarios: sha256:cc432c2d AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
18082 ms
Bot 成本（Neptune）
$0.2454
Bot Tokens（Neptune）
118,587
Judge 成本（Eris）
$0.0249
Judge Tokens（Eris）
191,558
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 46.7% · 相關率 52.0% · 精確 36.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
97.3%
[94.7% – 99.3%] · n=10
10 / 10 適用
  • 案例 3138A1EB

    請問如果收不到電子信箱驗證要怎麼辦？

    已完成
    第 1 次嘗試 · 已完成 13139ms

    載入詳情中…
  • 案例 8FFC7B1A

    可以在哪裡查詢訂單交易狀態?

    已完成
    第 1 次嘗試 · 已完成 17563ms

    載入詳情中…
  • 案例 BDFCA8C8

    怎麼關閉個資管理的頁面顯示設定?

    已完成
    第 1 次嘗試 · 已完成 30235ms

    載入詳情中…
  • 案例 C4129DF3

    消費者使用刷卡分期時，手續費可以轉嫁嗎

    已完成
    第 1 次嘗試 · 已完成 17752ms

    載入詳情中…
  • 案例 6AD272B6

    上傳證件後，身份驗證要多久?

    已完成
    第 1 次嘗試 · 已完成 11432ms

    載入詳情中…
  • 案例 72A09C57

    為什麼提領狀態顯示處理失敗?

    已完成
    第 1 次嘗試 · 已完成 30518ms

    載入詳情中…
  • 案例 5D9CBA3C

    變更帳號怎麼做

    已完成
    第 1 次嘗試 · 已完成 16243ms

    載入詳情中…
  • 案例 79EA40CD

    使用統一金流需要先註冊嗎

    已完成
    第 1 次嘗試 · 已完成 23340ms

    載入詳情中…
  • 案例 1241B30C

    註冊會員審核後會有通知信嗎

    已完成
    第 1 次嘗試 · 已完成 19814ms

    載入詳情中…
  • 案例 1ACBD2E3

    UNi帳戶的金融帳戶資訊在哪裡看?

    已完成
    第 1 次嘗試 · 已完成 19958ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
90.0%
[70.0% – 100.0%] · n=10
F1 90.0% · 召回 90.0% · 精確 90.0%
10 / 10 適用
用對工具 召回
tool_usage
90.0%
[70.0% – 100.0%] · n=10
F1 90.0% · 召回 90.0% · 精確 100.0%
10 / 10 適用
答得到位 平均
answer_quality
75.3%
[59.3% – 89.3%] · n=10
10 / 10 適用
  • 案例 10656B1B

    查詢有關測試區的資訊，請問要怎麼做測試?

    已完成
    第 1 次嘗試 · 已完成 27789ms

    載入詳情中…
  • 案例 90C3C4E0

    如何查詢你們的產品資訊或知識？

    已完成
    第 1 次嘗試 · 已完成 17484ms

    載入詳情中…
  • 案例 320E08F9

    請問我要怎麼做測試，測試區的網址是什麼？

    已完成
    第 1 次嘗試 · 已完成 19144ms

    載入詳情中…
  • 案例 F622E598

    你們的系統可以一次搜尋產品和知識庫的資料嗎?

    已完成
    第 1 次嘗試 · 已完成 18889ms

    載入詳情中…
  • 案例 98F86A93

    怎麼做測試啊?

    已完成
    第 1 次嘗試 · 已完成 3130ms

    載入詳情中…
  • 案例 252534EC

    查詢需要怎麼做啊

    已完成
    第 1 次嘗試 · 已完成 18023ms

    載入詳情中…
  • 案例 9CE91C7D

    能搜尋哪些知識跟產品?

    已完成
    第 1 次嘗試 · 已完成 27433ms

    載入詳情中…
  • 案例 29A31ACA

    怎麼進入測試區?

    已完成
    第 1 次嘗試 · 已完成 19900ms

    載入詳情中…
  • 案例 9451B7E2

    你們有什麼知識可以查詢的嗎?

    已完成
    第 1 次嘗試 · 已完成 20993ms

    載入詳情中…
  • 案例 C1C6A9C1

    請問有關於測試區的資訊，包括測試區網址和測試卡號，應該如何查詢呢？

    已完成
    第 1 次嘗試 · 已完成 20090ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=9
F1 40.7% · 相關率 44.4% · 精確 28.9%
9 / 10 適用
不亂編造 平均
faithfulness
90.0%
[70.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
90.7%
[78.7% – 99.3%] · n=10
10 / 10 適用
  • 案例 127A0D29

    什麼是非預付型態？

    已完成
    第 1 次嘗試 · 已完成 14152ms

    載入詳情中…
  • 案例 D8F7817A

    我可以轉接真人客服嗎

    已完成
    第 1 次嘗試 · 已完成 11519ms

    載入詳情中…
  • 案例 213F258D

    店到店寄送可以改取件門市嗎

    已完成
    第 1 次嘗試 · 已完成 18900ms

    載入詳情中…
  • 案例 335DE982

    註冊會員要審核多久?

    已完成
    第 1 次嘗試 · 已完成 20195ms

    載入詳情中…
  • 案例 CC2BBA58

    資料加解密怎麼使用?

    已完成
    第 1 次嘗試 · 已完成 24093ms

    載入詳情中…
  • 案例 9B9C020A

    訂單的交易狀態怎麼查?

    已完成
    第 1 次嘗試 · 已完成 23539ms

    載入詳情中…
  • 案例 3C5D7EA0

    驗證電子信箱後，審核多久完成

    已完成
    第 1 次嘗試 · 已完成 18505ms

    載入詳情中…
  • 案例 C520AF8E

    電子信箱是否已超過容量?

    已完成
    第 1 次嘗試 · 已完成 23000ms

    載入詳情中…
  • 案例 7D0A88DD

    使用統一金流需要填寫什麼資料?

    已完成
    第 1 次嘗試 · 已完成 22056ms

    載入詳情中…
  • 案例 B8957982

    已經上傳證件後，多久會變付款成功?

    已完成
    第 1 次嘗試 · 已完成 22667ms

    載入詳情中…