執行 #484

遠雄星呈 AI 小幫手 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 14:30
耗時
356.4s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2660
Total Bot Cost · USD
55.3%
Prompt Cache Hit
cost per case
$0.0089
cost per 1k tokens
$0.0014
input tokens
188,883
output tokens
5,610
cached tokens — prompt-cache hit
104,448
Total Tokens
194,493
economic efficiency
cost per correct
$0.0014
pass rate
83.3%
25 / 30
judge cost
$0.0347
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 66f88327-db6e-4744-9db1-ad59a69257f5 119 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:64127c51 Tools: sha256:8575e4b4 Scenarios: sha256:ff5fac54 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
2
首字延遲 p95
22914 ms
Bot 成本（Neptune）
$0.2660
Bot Tokens（Neptune）
194,493
Judge 成本（Eris）
$0.0347
Judge Tokens（Eris）
255,317
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 33.3% · 相關率 26.0% · 精確 20.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
97.3%
[94.7% – 99.3%] · n=10
10 / 10 適用
  • 案例 95A4610F

    請問停車場的空間高度有多高？

    已完成
    第 1 次嘗試 · 已完成 27684ms

    載入詳情中…
  • 案例 148867B6

    垃圾冷藏處理室可以避免什麼問題？

    已完成
    第 1 次嘗試 · 已完成 28629ms

    載入詳情中…
  • 案例 006C758E

    台中港是全台唯一的人造港嗎？

    已完成
    第 1 次嘗試 · 已完成 23906ms

    載入詳情中…
  • 案例 3844904E

    Ifg 遠雄廣場是汐止最大的生活休閒廣場嗎

    已完成
    第 1 次嘗試 · 已完成 28606ms

    載入詳情中…
  • 案例 C737324A

    住戶可以隨時取得建築設計電子檔嗎

    已完成
    第 1 次嘗試 · 已完成 25077ms

    載入詳情中…
  • 案例 BAE6C567

    遠雄星呈建案在哪裡?

    已完成
    第 1 次嘗試 · 已完成 32079ms

    載入詳情中…
  • 案例 8D3F6B32

    請問遠雄星呈建案的學區可以就讀嗎？

    已完成
    第 1 次嘗試 · 已完成 30608ms

    載入詳情中…
  • 案例 BDC5DAF5

    單層排氣是怎麼設計的？

    已完成
    第 1 次嘗試 · 已完成 27179ms

    載入詳情中…
  • 案例 EF3A1020

    各層梯廳照明為什麼要搭配感應器？

    已完成
    第 1 次嘗試 · 已完成 20299ms

    載入詳情中…
  • 案例 5919246C

    暖風機可以讓我洗澡時暖和嗎?

    已完成
    第 1 次嘗試 · 已完成 17609ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
70.0%
[40.0% – 100.0%] · n=10
F1 60.0% · 召回 70.0% · 精確 55.0%
10 / 10 適用
用對工具 召回
tool_usage
28.6%
[0.0% – 57.1%] · n=7
F1 28.6% · 召回 28.6% · 精確 71.4%
7 / 10 適用
答得到位 平均
answer_quality
78.0%
[62.3% – 91.0%] · n=10
10 / 10 適用
  • 案例 F7A669AD

    我想要預約賞屋，怎麼驗證我的手機號碼？

    已完成
    第 1 次嘗試 · 已完成 15818ms

    載入詳情中…
  • 案例 1D284551

    預約賞屋後，會有通知嗎？

    已完成
    第 1 次嘗試 · 已完成 20343ms

    載入詳情中…
  • 案例 190FB87C

    房子賣多少錢？

    已完成
    第 1 次嘗試 · 已完成 29766ms

    載入詳情中…
  • 案例 DE666950

    預約賞屋需要提供什麼資料?

    已完成
    第 1 次嘗試 · 已完成 26615ms

    載入詳情中…
  • 案例 97E175BD

    我想要預約賞屋，怎麼做？

    已完成
    第 1 次嘗試 · 已完成 16304ms

    載入詳情中…
  • 案例 CF2F0075

    遠雄星呈建案的交通資訊如何？

    已完成
    第 1 次嘗試 · 已完成 33605ms

    載入詳情中…
  • 案例 386F4F47

    我對於你們的服務非常不滿，想要申訴，該如何處理？

    已完成
    第 1 次嘗試 · 已完成 16068ms

    載入詳情中…
  • 案例 93C19D5F

    防水保固可以延長嗎?

    已完成
    第 1 次嘗試 · 已完成 22992ms

    載入詳情中…
  • 案例 5099B2A1

    附近有什麼休閒娛樂的地方嗎？

    已完成
    第 1 次嘗試 · 已完成 22136ms

    載入詳情中…
  • 案例 B15A0047

    我想約看房，請問要提供哪些資料？

    已完成
    第 1 次嘗試 · 已完成 10044ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
75.0%
[37.5% – 100.0%] · n=8
F1 25.0% · 相關率 25.7% · 精確 27.5%
8 / 10 適用
不亂編造 平均
faithfulness
95.8%
[87.5% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
80.7%
[60.7% – 96.3%] · n=10
10 / 10 適用
  • 案例 F2EAD8FE

    亞果遊艇集團得到哪個標案?

    已完成
    第 1 次嘗試 · 已完成 16187ms

    載入詳情中…
  • 案例 5B86A2B4

    可以預約看房嗎

    已完成
    第 1 次嘗試 · 已完成 25396ms

    載入詳情中…
  • 案例 A34617D5

    想預約賞屋該怎麼說？

    已完成
    第 1 次嘗試 · 已完成 24351ms

    載入詳情中…
  • 案例 0043ED9D

    四房的總坪數是多少?

    已完成
    第 1 次嘗試 · 已完成 30256ms

    載入詳情中…
  • 案例 679DD30A

    遠雄星呈規劃了多少戶住家和店面?

    已完成
    第 1 次嘗試 · 已完成 27019ms

    載入詳情中…
  • 案例 74C7E40A

    筏式基礎有什麼作用嗎?

    已完成
    第 1 次嘗試 · 已完成 29607ms

    載入詳情中…
  • 案例 106F50A2

    參觀遠雄星呈要提前預約嗎

    已完成
    第 1 次嘗試 · 已完成 21802ms

    載入詳情中…
  • 案例 C95A7A8D

    國道4號擴建工程什麼時候通車?

    已完成
    第 1 次嘗試 · 已完成 24267ms

    載入詳情中…
  • 案例 E6E9D041

    這個房子的樓板厚度多少？

    已完成
    第 1 次嘗試 · 已完成 29895ms

    載入詳情中…
  • 案例 33AB0B8B

    林口數位造鎮是什麼樣的計劃？

    已完成
    第 1 次嘗試 · 已完成 27230ms

    載入詳情中…