執行 #73

Badgy (bulk R1) → production-baseline

狀態
已完成
案例
30
開始時間
16 May 11:16
耗時
628.7s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1644
Total Bot Cost · USD
70.4%
Prompt Cache Hit
cost per case
$0.0055
cost per 1k tokens
$0.0011
input tokens
140,473
output tokens
3,983
cached tokens — prompt-cache hit
98,944
Total Tokens
144,456
economic efficiency
cost per correct
$0.0011
pass rate
86.7%
26 / 30
judge cost
$0.0283
設定快照(reproducibility) 1 個 bot 已捕捉 · Judge:gpt-4o-mini

Bot 設定快照

  • eeded90e-cc08-42b8-95d8-f873278b3b1a 64 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:9389dc90 Tools: sha256:9feda0ea Scenarios: sha256:be313b5c AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
2
首字延遲 p95
3127 ms
Bot 成本(Neptune)
$0.1644
Bot Tokens(Neptune)
144,456
Judge 成本(Eris)
$0.0283
Judge Tokens(Eris)
216,616
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 18.2% · 相關率 21.0% · 精確 10.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
93.0%
[83.7% – 99.3%] · n=10
10 / 10 適用
  • 案例 E5B0B815

    兒童需要算入總人數嗎

    已完成
    第 1 次嘗試 · 已完成 14711ms

    載入詳情中…

  • 案例 0C46850E

    為什麼選擇完人數後無法進行下一步?

    已完成
    第 1 次嘗試 · 已完成 15309ms

    載入詳情中…

  • 案例 67591E62

    可以重新預訂嗎?

    已完成
    第 1 次嘗試 · 已完成 12782ms

    載入詳情中…

  • 案例 5EEC944B

    如果有超出預訂的人數,餐廳會怎麼處理?

    已完成
    第 1 次嘗試 · 已完成 11457ms

    載入詳情中…

  • 案例 2911698F

    Eatigo 預訂有哪些不包含的東西?

    已完成
    第 1 次嘗試 · 已完成 15304ms

    載入詳情中…

  • 案例 A9E0520E

    如果我到店人數多於預訂人數,會有折扣嗎?

    已完成
    第 1 次嘗試 · 已完成 12655ms

    載入詳情中…

  • 案例 4E888F52

    訂單完成後可以怎麼評論店家?

    已完成
    第 1 次嘗試 · 已完成 10954ms

    載入詳情中…

  • 案例 4D21B272

    我如果被餐廳拒絕入座怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 11802ms

    載入詳情中…

  • 案例 E20F15C5

    請問我該如何在 App 刪除帳號?

    已完成
    第 1 次嘗試 · 已完成 14350ms

    載入詳情中…

  • 案例 806CC1D0

    沒有 Eatigo 帳號可以預訂嗎

    已完成
    第 1 次嘗試 · 已完成 13760ms

    載入詳情中…

項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
90.0%
[70.0% – 100.0%] · n=10
F1 73.3% · 召回 90.0% · 精確 65.0%
10 / 10 適用
用對工具 召回
tool_usage
100.0%
F1 100.0% · 召回 100.0% · 精確 100.0%
1 / 10 適用
答得到位 平均
answer_quality
82.0%
[68.3% – 93.3%] · n=10
10 / 10 適用
  • 案例 299AA1CD

    如果我預訂的時候有小孩,還要算在總人數裡嗎?

    已完成
    第 1 次嘗試 · 已完成 18528ms

    載入詳情中…

  • 案例 5F4301FD

    app 開不起來怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 11551ms

    載入詳情中…

  • 案例 78CA5D9C

    我的訂單狀態顯示錯誤,該怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 11287ms

    載入詳情中…

  • 案例 912FF67F

    我已經參加活動了,但狀態還是顯示 '即將到來',怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 20361ms

    載入詳情中…

  • 案例 555B44E7

    如果我是帶 4 位大人和 1 位小孩去用餐,預訂時要怎麼算人數?

    已完成
    第 1 次嘗試 · 已完成 14358ms

    載入詳情中…

  • 案例 DD21BE5F

    為什麼 Eatigo 沒有提供生日優惠碼或新用戶優惠碼?

    已完成
    第 1 次嘗試 · 已完成 12873ms

    載入詳情中…

  • 案例 4423402E

    請問我為什麼無法預訂?

    已完成
    第 1 次嘗試 · 已完成 14641ms

    載入詳情中…

  • 案例 4B01ABFB

    有關活動的優惠嗎?

    已完成
    第 1 次嘗試 · 已完成 14921ms

    載入詳情中…

  • 案例 D6865F20

    我如果遲到會怎麼樣?

    已完成
    第 1 次嘗試 · 已完成 17938ms

    載入詳情中…

  • 案例 FA85AE07

    如果我超過預訂時間沒有去,這筆訂單會怎麼樣?

    已完成
    第 1 次嘗試 · 已完成 14130ms

    載入詳情中…

項目 III.

對話素養(混合問答)

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=8
F1 18.2% · 相關率 15.0% · 精確 10.0%
8 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
89.7%
[69.3% – 100.0%] · n=10
10 / 10 適用
  • 案例 7C6D1DE1

    更改人數要怎麼做啊?

    已完成
    第 1 次嘗試 · 已完成 19702ms

    載入詳情中…

  • 案例 67B4F43E

    在 FunNow 上可以取消訂單嗎

    已完成
    第 1 次嘗試 · 已完成 2682ms

    載入詳情中…

  • 案例 F47B0627

    可以指定座位或包廂嗎?

    已完成
    第 1 次嘗試 · 已完成 8404ms

    載入詳情中…

  • 案例 F862025B

    我最多可以提前多久預訂?

    已完成
    第 1 次嘗試 · 已完成 11241ms

    載入詳情中…

  • 案例 E852490C

    為什麼訂單紀錄不能刪除?

    已完成
    第 1 次嘗試 · 已完成 10317ms

    載入詳情中…

  • 案例 4C627CAE

    怎麼設定時間搜尋範圍呢?

    已完成
    第 1 次嘗試 · 已完成 12011ms

    載入詳情中…

  • 案例 FBD41DE7

    請問我需要註冊帳號才能享有預訂折扣嗎?

    已完成
    第 1 次嘗試 · 已完成 8810ms

    載入詳情中…

  • 案例 1070340E

    Eatigo 用餐時間是幾點的格式?

    已完成
    第 1 次嘗試 · 已完成 10258ms

    載入詳情中…

  • 案例 3D6C5EB2

    到店用餐預訂需要先付費嗎?

    已完成
    第 1 次嘗試 · 已完成 15161ms

    載入詳情中…

  • 案例 2AE99056

    如果同桌有未經預訂的同行者,也能享有折扣嗎?

    已完成
    第 1 次嘗試 · 已完成 12064ms

    載入詳情中…