執行 #68

Alife 管家 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 11:14
耗時
565.2s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1300
Total Bot Cost · USD
84.4%
Prompt Cache Hit
cost per case
$0.0043
cost per 1k tokens
$0.0010
input tokens
122,664
output tokens
5,003
cached tokens — prompt-cache hit
103,552
Total Tokens
127,667
economic efficiency
cost per correct
$0.0011
pass rate
90.0%
27 / 30
judge cost
$0.0288
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • e0fc2bc1-ba8b-4ebb-aef8-834c6f985b75 1892 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:5e1a529e Tools: sha256:cb414772 Scenarios: sha256:0c15eb63 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
0
首字延遲 p95
13975 ms
Bot 成本（Neptune）
$0.1300
Bot Tokens（Neptune）
127,667
Judge 成本（Eris）
$0.0288
Judge Tokens（Eris）
221,419
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 18.2% · 相關率 31.0% · 精確 10.0%
10 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
98.0%
[95.7% – 99.7%] · n=10
10 / 10 適用
  • 案例 AE6CA959

    這個來源會影響租賃流程嗎

    已完成
    第 1 次嘗試 · 已完成 33403ms

    載入詳情中…
  • 案例 611BC697

    電梯看板安裝後清潔要怎麼做?

    已完成
    第 1 次嘗試 · 已完成 36547ms

    載入詳情中…
  • 案例 13BE3719

    發票日期和金額要提供什麼？

    已完成
    第 1 次嘗試 · 已完成 28494ms

    載入詳情中…
  • 案例 14468E3F

    如果電表在地下室，住戶要怎麼聯絡社群經理?

    已完成
    第 1 次嘗試 · 已完成 27229ms

    載入詳情中…
  • 案例 FFFDFC3B

    參訪預約可以安排特殊時段嗎？

    已完成
    第 1 次嘗試 · 已完成 39515ms

    載入詳情中…
  • 案例 9DD170A4

    如果浴室天花板發霉，我該怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 37412ms

    載入詳情中…
  • 案例 1A2C864C

    更換熱水爐作業如果延遲，怎麼通知住戶啊

    已完成
    第 1 次嘗試 · 已完成 33942ms

    載入詳情中…
  • 案例 3477C646

    租金方案的基礎方案包含什麼家具?

    已完成
    第 1 次嘗試 · 已完成 32112ms

    載入詳情中…
  • 案例 0715716A

    發票通常什麼時候寄出？

    已完成
    第 1 次嘗試 · 已完成 29260ms

    載入詳情中…
  • 案例 839AD780

    協調緊急清潔需求要怎麼做啊？

    已完成
    第 1 次嘗試 · 已完成 30405ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
100.0%
[100.0% – 100.0%] · n=10
F1 80.0% · 召回 100.0% · 精確 70.0%
10 / 10 適用
用對工具 召回
tool_usage
—
—
答得到位 平均
answer_quality
89.7%
[83.0% – 95.7%] · n=10
10 / 10 適用
  • 案例 AC15BDD6

    沒帶卡可以遠端開門嗎？

    已完成
    第 1 次嘗試 · 已完成 25991ms

    載入詳情中…
  • 案例 5046FEC5

    我家門鎖一直刷不開，這樣要怎麼處理?

    已完成
    第 1 次嘗試 · 已完成 44786ms

    載入詳情中…
  • 案例 29E46EB1

    我想預約參訪，當天要準時抵達嗎？

    已完成
    第 1 次嘗試 · 已完成 26649ms

    載入詳情中…
  • 案例 34BAE172

    網路不穩怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 31957ms

    載入詳情中…
  • 案例 75E9A125

    我已經匯款了，怎麼確認租金入帳？

    已完成
    第 1 次嘗試 · 已完成 58009ms

    載入詳情中…
  • 案例 CED522F7

    我想預約參訪，要填寫什麼嗎?

    已完成
    第 1 次嘗試 · 已完成 32003ms

    載入詳情中…
  • 案例 FC3C7AE5

    自動販賣機扣了錢但沒出貨怎麼辦?

    已完成
    第 1 次嘗試 · 已完成 41204ms

    載入詳情中…
  • 案例 CF63B730

    投幣後沒反應，我該怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 27933ms

    載入詳情中…
  • 案例 E2A71689

    我的扣款帳單有問題，請問怎麼確認是哪個項目？

    已完成
    第 1 次嘗試 · 已完成 40476ms

    載入詳情中…
  • 案例 435E58DD

    我已經匯款了，請問可以幫我確認一下嗎？

    已完成
    第 1 次嘗試 · 已完成 34098ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
87.5%
[62.5% – 100.0%] · n=8
F1 15.9% · 相關率 24.3% · 精確 21.3%
8 / 10 適用
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=8
10 / 10 適用
答得到位 平均
answer_quality
82.3%
[68.3% – 93.3%] · n=10
10 / 10 適用
  • 案例 0333136D

    廁所門扇故障時怎麼處理?

    已完成
    第 1 次嘗試 · 已完成 18970ms

    載入詳情中…
  • 案例 A1011A7E

    如果我想要轉接給人類客服，可以嗎?

    已完成
    第 1 次嘗試 · 已完成 25990ms

    載入詳情中…
  • 案例 672A5FD6

    參訪的問卷到底為什麼一定要填？

    已完成
    第 1 次嘗試 · 已完成 33125ms

    載入詳情中…
  • 案例 7E21D843

    參觀租賃房屋要怎麼安排?

    已完成
    第 1 次嘗試 · 已完成 24333ms

    載入詳情中…
  • 案例 75F173B4

    滿意度調查多久做一次?

    已完成
    第 1 次嘗試 · 已完成 30578ms

    載入詳情中…
  • 案例 BAAFD0F6

    住戶因銀行限制可以選擇分次轉帳退款嗎?

    已完成
    第 1 次嘗試 · 已完成 34365ms

    載入詳情中…
  • 案例 9DAE4651

    濾網抵達後，多久會更換？

    已完成
    第 1 次嘗試 · 已完成 39188ms

    載入詳情中…
  • 案例 31DD753A

    住戶申請換房時，為什麼要現場點交?

    已完成
    第 1 次嘗試 · 已完成 35049ms

    載入詳情中…
  • 案例 FFF2CF7C

    請問住戶反映外人使用洗衣設備時要怎麼處理？

    已完成
    第 1 次嘗試 · 已完成 37644ms

    載入詳情中…
  • 案例 D498270D

    彈性方案可以提前申請嗎

    已完成
    第 1 次嘗試 · 已完成 40190ms

    載入詳情中…