執行 #238

Times Parking AI 小幫手 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 12:33
耗時
576.3s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1799
Total Bot Cost · USD
83.8%
Prompt Cache Hit
cost per case
$0.0060
cost per 1k tokens
$0.0008
input tokens
212,435
output tokens
2,743
cached tokens — prompt-cache hit
177,920
Total Tokens
215,178
economic efficiency
cost per correct
$0.0012
pass rate
66.7%
20 / 30
judge cost
$0.0245
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • bb68782a-ba9f-47b8-872d-6bd097e0aeb3 280 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:8e826b0d Tools: sha256:cca0d8a1 Scenarios: sha256:9642bfa9 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
3
首字延遲 p95
8978 ms
Bot 成本（Neptune）
$0.1799
Bot Tokens（Neptune）
215,178
Judge 成本（Eris）
$0.0245
Judge Tokens（Eris）
189,188
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 33.3% · 相關率 24.0% · 精確 20.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
95.3%
[91.3% – 98.7%] · n=10
10 / 10 適用
  • 案例 74FEA09E

    請問大溪民權東路第2停車場的月租價格是多少？

    已完成
    第 1 次嘗試 · 已完成 40361ms

    載入詳情中…
  • 案例 EDC44836

    中壢成章忠勤停車場的月租是多少?

    已完成
    第 1 次嘗試 · 已完成 35257ms

    載入詳情中…
  • 案例 0B7E4DA3

    蘆洲三民路第4停車場的月租是多少?

    已完成
    第 1 次嘗試 · 已完成 28172ms

    載入詳情中…
  • 案例 60C45B55

    台中五權七街停車場月租價格是多少?

    已完成
    第 1 次嘗試 · 已完成 32826ms

    載入詳情中…
  • 案例 198A22B2

    中壢榮德街停車場的月租價格是多少?

    已完成
    第 1 次嘗試 · 已完成 17342ms

    載入詳情中…
  • 案例 86255633

    林口文化二路一段第2停車場月租多少?

    已完成
    第 1 次嘗試 · 已完成 36657ms

    載入詳情中…
  • 案例 DD4BC887

    中壢育樂路停車場有提供月租服務嗎

    已完成
    第 1 次嘗試 · 已完成 43091ms

    載入詳情中…
  • 案例 2304E5B8

    三峽文化路停車場有提供月租嗎

    已完成
    第 1 次嘗試 · 已完成 21354ms

    載入詳情中…
  • 案例 E10EA79A

    土城大暖路停車場有月租嗎

    已完成
    第 1 次嘗試 · 已完成 26132ms

    載入詳情中…
  • 案例 A3C0ED65

    仁愛路三段停車場有沒有提供月租服務?

    已完成
    第 1 次嘗試 · 已完成 40881ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
60.0%
[30.0% – 90.0%] · n=10
F1 56.7% · 召回 60.0% · 精確 55.0%
10 / 10 適用
用對工具 召回
tool_usage
40.0%
[10.0% – 70.0%] · n=10
F1 60.0% · 召回 55.0% · 精確 90.0%
10 / 10 適用
答得到位 平均
answer_quality
50.7%
[33.7% – 68.0%] · n=10
10 / 10 適用
  • 案例 E602A266

    關於月租，我可以不提供車牌嗎?

    已完成
    第 1 次嘗試 · 已完成 38935ms

    載入詳情中…
  • 案例 4D0C91BD

    你們的服務時間是什麼時候?

    已完成
    第 1 次嘗試 · 已完成 19936ms

    載入詳情中…
  • 案例 E70C15C8

    特約合作的申請需要提供哪些聯絡資訊?

    已完成
    第 1 次嘗試 · 已完成 42757ms

    載入詳情中…
  • 案例 E98AD884

    這個查詢是什麼意思呢?

    已完成
    第 1 次嘗試 · 已完成 20519ms

    載入詳情中…
  • 案例 C0A89919

    月租怎麼申請啊?

    已完成
    第 1 次嘗試 · 已完成 37905ms

    載入詳情中…
  • 案例 3B18CA04

    這個髮片怎麼用啊

    已完成
    第 1 次嘗試 · 已完成 36873ms

    載入詳情中…
  • 案例 9999BE6A

    我有土地想開發成停車場，請問該怎麼做？

    已完成
    第 1 次嘗試 · 已完成 29375ms

    載入詳情中…
  • 案例 17D996E9

    官網顯示的三個按鈕是什麼意思?

    已完成
    第 1 次嘗試 · 已完成 51507ms

    載入詳情中…
  • 案例 3FA69528

    官網的按鈕有什麼不同的意思啊？

    已完成
    第 1 次嘗試 · 已完成 52333ms

    載入詳情中…
  • 案例 95D31038

    現在優惠活動有什麼嗎?

    已完成
    第 1 次嘗試 · 已完成 42168ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
62.5%
[25.0% – 87.5%] · n=8
F1 20.8% · 相關率 40.0% · 精確 50.0%
8 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=7
10 / 10 適用
答得到位 平均
answer_quality
66.0%
[43.7% – 86.0%] · n=10
10 / 10 適用
  • 案例 ABEF982E

    濟南路二段停車場的月租多少?

    已完成
    第 1 次嘗試 · 已完成 26129ms

    載入詳情中…
  • 案例 B4FF88C8

    這個工具是用來做什麼的?

    已完成
    第 1 次嘗試 · 已完成 32978ms

    載入詳情中…
  • 案例 31B43547

    如果我已經是月租客，怎麼提供我的基本資料?

    已完成
    第 1 次嘗試 · 已完成 29082ms

    載入詳情中…
  • 案例 53718D8F

    中和安邦街停車場月租多少

    已完成
    第 1 次嘗試 · 已完成 22515ms

    載入詳情中…
  • 案例 138E517B

    大安路二段停車場有提供月租服務嗎

    已完成
    第 1 次嘗試 · 已完成 29671ms

    載入詳情中…
  • 案例 4775416A

    台中昌平東六路停車場有月租嗎

    已完成
    第 1 次嘗試 · 已完成 33398ms

    載入詳情中…
  • 案例 618293B9

    有空位簡訊通知後要怎麼做?

    已完成
    第 1 次嘗試 · 已完成 33364ms

    載入詳情中…
  • 案例 5812870C

    新莊福慧路停車場有提供月租服務嗎

    已完成
    第 1 次嘗試 · 已完成 39152ms

    載入詳情中…
  • 案例 AEE84A73

    蘆洲水湳街第2停車場有提供月租嗎

    已完成
    第 1 次嘗試 · 已完成 33956ms

    載入詳情中…
  • 案例 D508EDD8

    苗栗竹南仁愛路停車場有月租服務嗎

    已完成
    第 1 次嘗試 · 已完成 15669ms

    載入詳情中…