執行 #483

遠雄星呈 AI 小幫手 (bulk R1) → production-baseline

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 14:29
耗時
648.0s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2129
Total Bot Cost · USD
74.6%
Prompt Cache Hit
cost per case
$0.0071
cost per 1k tokens
$0.0011
input tokens
189,984
output tokens
5,682
cached tokens — prompt-cache hit
141,696
Total Tokens
195,666
economic efficiency
cost per correct
$0.0013
pass rate
83.3%
25 / 30
judge cost
$0.0331
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 66f88327-db6e-4744-9db1-ad59a69257f5 119 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:64127c51 Tools: sha256:8575e4b4 Scenarios: sha256:ff5fac54 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
2
首字延遲 p95
15486 ms
Bot 成本（Neptune）
$0.2129
Bot Tokens（Neptune）
195,666
Judge 成本（Eris）
$0.0331
Judge Tokens（Eris）
256,846
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 33.3% · 相關率 26.0% · 精確 20.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
96.3%
[92.7% – 99.0%] · n=10
10 / 10 適用
  • 案例 95A4610F

    請問停車場的空間高度有多高？

    已完成
    第 1 次嘗試 · 已完成 14661ms

    載入詳情中…
  • 案例 148867B6

    垃圾冷藏處理室可以避免什麼問題？

    已完成
    第 1 次嘗試 · 已完成 18386ms

    載入詳情中…
  • 案例 006C758E

    台中港是全台唯一的人造港嗎？

    已完成
    第 1 次嘗試 · 已完成 12870ms

    載入詳情中…
  • 案例 3844904E

    Ifg 遠雄廣場是汐止最大的生活休閒廣場嗎

    已完成
    第 1 次嘗試 · 已完成 13469ms

    載入詳情中…
  • 案例 C737324A

    住戶可以隨時取得建築設計電子檔嗎

    已完成
    第 1 次嘗試 · 已完成 31348ms

    載入詳情中…
  • 案例 BAE6C567

    遠雄星呈建案在哪裡?

    已完成
    第 1 次嘗試 · 已完成 18031ms

    載入詳情中…
  • 案例 8D3F6B32

    請問遠雄星呈建案的學區可以就讀嗎？

    已完成
    第 1 次嘗試 · 已完成 13689ms

    載入詳情中…
  • 案例 BDC5DAF5

    單層排氣是怎麼設計的？

    已完成
    第 1 次嘗試 · 已完成 21387ms

    載入詳情中…
  • 案例 EF3A1020

    各層梯廳照明為什麼要搭配感應器？

    已完成
    第 1 次嘗試 · 已完成 14522ms

    載入詳情中…
  • 案例 5919246C

    暖風機可以讓我洗澡時暖和嗎?

    已完成
    第 1 次嘗試 · 已完成 16365ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
70.0%
[40.0% – 90.0%] · n=10
F1 60.0% · 召回 70.0% · 精確 55.0%
10 / 10 適用
用對工具 召回
tool_usage
28.6%
[0.0% – 57.1%] · n=7
F1 28.6% · 召回 28.6% · 精確 71.4%
7 / 10 適用
答得到位 平均
answer_quality
78.0%
[62.7% – 91.3%] · n=10
10 / 10 適用
  • 案例 F7A669AD

    我想要預約賞屋，怎麼驗證我的手機號碼？

    已完成
    第 1 次嘗試 · 已完成 8877ms

    載入詳情中…
  • 案例 1D284551

    預約賞屋後，會有通知嗎？

    已完成
    第 1 次嘗試 · 已完成 13020ms

    載入詳情中…
  • 案例 190FB87C

    房子賣多少錢？

    已完成
    第 1 次嘗試 · 已完成 14525ms

    載入詳情中…
  • 案例 DE666950

    預約賞屋需要提供什麼資料?

    已完成
    第 1 次嘗試 · 已完成 16976ms

    載入詳情中…
  • 案例 97E175BD

    我想要預約賞屋，怎麼做？

    已完成
    第 1 次嘗試 · 已完成 11038ms

    載入詳情中…
  • 案例 CF2F0075

    遠雄星呈建案的交通資訊如何？

    已完成
    第 1 次嘗試 · 已完成 19399ms

    載入詳情中…
  • 案例 386F4F47

    我對於你們的服務非常不滿，想要申訴，該如何處理？

    已完成
    第 1 次嘗試 · 已完成 10956ms

    載入詳情中…
  • 案例 93C19D5F

    防水保固可以延長嗎?

    已完成
    第 1 次嘗試 · 已完成 11740ms

    載入詳情中…
  • 案例 5099B2A1

    附近有什麼休閒娛樂的地方嗎？

    已完成
    第 1 次嘗試 · 已完成 15988ms

    載入詳情中…
  • 案例 B15A0047

    我想約看房，請問要提供哪些資料？

    已完成
    第 1 次嘗試 · 已完成 7850ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
87.5%
[62.5% – 100.0%] · n=8
F1 29.2% · 相關率 28.6% · 精確 30.0%
8 / 10 適用
不亂編造 平均
faithfulness
95.8%
[87.5% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
80.0%
[57.7% – 96.7%] · n=10
10 / 10 適用
  • 案例 F2EAD8FE

    亞果遊艇集團得到哪個標案?

    已完成
    第 1 次嘗試 · 已完成 4022ms

    載入詳情中…
  • 案例 5B86A2B4

    可以預約看房嗎

    已完成
    第 1 次嘗試 · 已完成 9719ms

    載入詳情中…
  • 案例 A34617D5

    想預約賞屋該怎麼說？

    已完成
    第 1 次嘗試 · 已完成 15057ms

    載入詳情中…
  • 案例 0043ED9D

    四房的總坪數是多少?

    已完成
    第 1 次嘗試 · 已完成 33433ms

    載入詳情中…
  • 案例 679DD30A

    遠雄星呈規劃了多少戶住家和店面?

    已完成
    第 1 次嘗試 · 已完成 15573ms

    載入詳情中…
  • 案例 74C7E40A

    筏式基礎有什麼作用嗎?

    已完成
    第 1 次嘗試 · 已完成 13666ms

    載入詳情中…
  • 案例 106F50A2

    參觀遠雄星呈要提前預約嗎

    已完成
    第 1 次嘗試 · 已完成 9946ms

    載入詳情中…
  • 案例 C95A7A8D

    國道4號擴建工程什麼時候通車?

    已完成
    第 1 次嘗試 · 已完成 15805ms

    載入詳情中…
  • 案例 E6E9D041

    這個房子的樓板厚度多少？

    已完成
    第 1 次嘗試 · 已完成 15685ms

    載入詳情中…
  • 案例 33AB0B8B

    林口數位造鎮是什麼樣的計劃？

    已完成
    第 1 次嘗試 · 已完成 16600ms

    載入詳情中…