執行 #114

Easyski (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 11:35
耗時
393.4s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.1441
Total Bot Cost · USD
78.6%
Prompt Cache Hit
cost per case
$0.0048
cost per 1k tokens
$0.0010
input tokens
136,299
output tokens
4,027
cached tokens — prompt-cache hit
107,136
Total Tokens
140,326
economic efficiency
cost per correct
$0.0010
pass rate
83.3%
25 / 30
judge cost
$0.0258
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • cbc90c6f-bb35-4e48-b72f-37cb9d9242d4 92 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:d8fe976c Tools: sha256:91a29d16 Scenarios: sha256:9713849f AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
2
首字延遲 p95
15566 ms
Bot 成本（Neptune）
$0.1441
Bot Tokens（Neptune）
140,326
Judge 成本（Eris）
$0.0258
Judge Tokens（Eris）
199,947
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
60.0%
[30.0% – 90.0%] · n=10
F1 20.0% · 相關率 48.9% · 精確 52.0%
10 / 10 適用 · 1 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
85.3%
[72.3% – 96.0%] · n=10
10 / 10 適用
  • 案例 105EF33B

    中階課的時間多久?

    已完成
    第 1 次嘗試 · 已完成 34403ms

    載入詳情中…
  • 案例 0E2F989D

    雙板中階體驗課專注於什麼?

    已完成
    第 1 次嘗試 · 已完成 31070ms

    載入詳情中…
  • 案例 17991554

    小朋友滿4歲後肌力發展怎樣?

    已完成
    第 1 次嘗試 · 已完成 27871ms

    載入詳情中…
  • 案例 4E10B9BF

    小朋友這堂滑雪課會學什麼?

    已完成
    第 1 次嘗試 · 已完成 40475ms

    載入詳情中…
  • 案例 D9F28D98

    自主訓練的時長是多久?

    已完成
    第 1 次嘗試 · 已完成 26698ms

    載入詳情中…
  • 案例 5DF9CE54

    兒童雙板課程會教什麼啊

    已完成
    第 1 次嘗試 · 已完成 24387ms

    載入詳情中…
  • 案例 ADCA1FBB

    基礎1級課程包括什麼?

    已完成
    第 1 次嘗試 · 已完成 28639ms

    載入詳情中…
  • 案例 F26BFCE6

    單板中階體驗課專注於什麼技能?

    已完成
    第 1 次嘗試 · 已完成 61105ms

    載入詳情中…
  • 案例 604420E5

    請問你們的雪具可以租借嗎？

    已完成
    第 1 次嘗試 · 已完成 29253ms

    載入詳情中…
  • 案例 9F628BEC

    我對兩種板型都想試試，該怎麼做?

    已完成
    第 1 次嘗試 · 已完成 41055ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
100.0%
[100.0% – 100.0%] · n=10
F1 90.0% · 召回 100.0% · 精確 85.0%
10 / 10 適用
用對工具 召回
tool_usage
66.7%
[0.0% – 100.0%] · n=3
F1 66.7% · 召回 66.7% · 精確 100.0%
3 / 10 適用
答得到位 平均
answer_quality
82.7%
[68.7% – 92.3%] · n=10
10 / 10 適用
  • 案例 CA759B28

    暫停會籍最多可以暫停多久?

    已完成
    第 1 次嘗試 · 已完成 32200ms

    載入詳情中…
  • 案例 4350C6A1

    我想查詢雪具的相關資訊，請問有什麼推薦的?

    已完成
    第 1 次嘗試 · 已完成 42556ms

    載入詳情中…
  • 案例 7770278B

    我想報名體驗課，不知道是大人課程還是小孩課程比較好？

    已完成
    第 1 次嘗試 · 已完成 24270ms

    載入詳情中…
  • 案例 2736D599

    會員可以預約團體課嗎?

    已完成
    第 1 次嘗試 · 已完成 16889ms

    載入詳情中…
  • 案例 1C1D35A0

    會員可以預約自主訓練課程嗎

    已完成
    第 1 次嘗試 · 已完成 33722ms

    載入詳情中…
  • 案例 92827A4E

    請問要提供什麼資料來確認上課影片呢？

    已完成
    第 1 次嘗試 · 已完成 19719ms

    載入詳情中…
  • 案例 464FE90D

    影片多久會收到啊？

    已完成
    第 1 次嘗試 · 已完成 43168ms

    載入詳情中…
  • 案例 CE92BC9E

    小孩體驗課有哪兩種上課選擇？

    已完成
    第 1 次嘗試 · 已完成 35614ms

    載入詳情中…
  • 案例 259CEE02

    請問有其他地方可以上體驗課嗎？

    已完成
    第 1 次嘗試 · 已完成 34029ms

    載入詳情中…
  • 案例 ED582D46

    參加日本雪上課程需要提供幾位大人與幾位小朋友的課程安排?

    已完成
    第 1 次嘗試 · 已完成 35801ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
87.5%
[62.5% – 100.0%] · n=8
F1 29.2% · 相關率 51.4% · 精確 30.0%
8 / 10 適用 · 1 提示
不亂編造 平均
faithfulness
90.0%
[70.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
85.3%
[71.7% – 95.3%] · n=10
10 / 10 適用
  • 案例 12EE8C8A

    上課時可以穿包覆小腿的長襪嗎?

    已完成
    第 1 次嘗試 · 已完成 32606ms

    載入詳情中…
  • 案例 23F19994

    雙板初階體驗課教什麼內容?

    已完成
    第 1 次嘗試 · 已完成 36240ms

    載入詳情中…
  • 案例 C7628F31

    要怎麼移除工單的標籤？

    已完成
    第 1 次嘗試 · 已完成 21023ms

    載入詳情中…
  • 案例 0FAAFA03

    暫停會籍最長可以多久？

    已完成
    第 1 次嘗試 · 已完成 37567ms

    載入詳情中…
  • 案例 4335CF11

    發票查詢怎麼確認?

    已完成
    第 1 次嘗試 · 已完成 39761ms

    載入詳情中…
  • 案例 1E4FE572

    開辦費包含什麼費用?

    已完成
    第 1 次嘗試 · 已完成 41298ms

    載入詳情中…
  • 案例 000119A3

    請問上課時我可以自行拍攝GOPRO嗎？

    已完成
    第 1 次嘗試 · 已完成 59061ms

    載入詳情中…
  • 案例 51473F4B

    乾坡是什麼課程?

    已完成
    第 1 次嘗試 · 已完成 40351ms

    載入詳情中…
  • 案例 4E0F2E7F

    體驗課如果臨時取消，會怎樣？

    已完成
    第 1 次嘗試 · 已完成 37832ms

    載入詳情中…
  • 案例 8B0165F3

    請問基礎1級課程教授什麼內容？

    已完成
    第 1 次嘗試 · 已完成 32582ms

    載入詳情中…