執行 #146

JINS AI 小幫手 (bulk R1) → production-canary (canary)

↓ EXPORT · HTML下載頁面 II. EVAL REPORT兩項目評估報告
狀態
已完成
案例
30
開始時間
16 May 11:50
耗時
819.7s
¶ Economics · Bot-side N=30 attempts

Cost & Tokens

$0.2015
Total Bot Cost · USD
64.0%
Prompt Cache Hit
cost per case
$0.0067
cost per 1k tokens
$0.0012
input tokens
157,352
output tokens
4,733
cached tokens — prompt-cache hit
100,736
Total Tokens
162,085
economic efficiency
cost per correct
$0.0017
pass rate
70.0%
21 / 30
judge cost
$0.0362
設定快照（reproducibility） 1 個 bot 已捕捉 · Judge：gpt-4o-mini

Bot 設定快照

  • 9df2b112-4a4b-451b-b03b-781a1ee36dea 62 筆 KB
    SystemPrompt: sha256:a147cf42 KBContent: sha256:699937e9 Tools: sha256:13e5aa51 Scenarios: sha256:3c61ee63 AI: gpt-4.1-2025-04-14 (T=0.0, max=2048)

Judge 設定快照

model: gpt-4o-mini T=0.0 max=4096 prompt: v1
已完成
30 / 30
錯誤
0
失敗維度
5
首字延遲 p95
12162 ms
Bot 成本（Neptune）
$0.2015
Bot Tokens（Neptune）
162,085
Judge 成本（Eris）
$0.0362
Judge Tokens（Eris）
267,463
項目 I.

知識庫精準度

kb_accuracy 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=10
F1 18.2% · 相關率 27.8% · 精確 10.0%
10 / 10 適用 · 1 提示
不亂編造 平均
faithfulness
100.0%
[100.0% – 100.0%] · n=10
10 / 10 適用
答得到位 平均
answer_quality
91.7%
[80.3% – 98.3%] · n=10
10 / 10 適用
  • 案例 F788214E

    鏡片更換要多少錢啊?

    已完成
    第 1 次嘗試 · 已完成 44443ms

    載入詳情中…
  • 案例 EAEAF59A

    超出度數範圍的訂單怎麼確認？

    已完成
    第 1 次嘗試 · 已完成 25134ms

    載入詳情中…
  • 案例 525E7691

    請問門市可以使用信用卡付款嗎？

    已完成
    第 1 次嘗試 · 已完成 19923ms

    載入詳情中…
  • 案例 BB4EED7A

    JINS的實體門市可以配無度數鏡片嗎?

    已完成
    第 1 次嘗試 · 已完成 34019ms

    載入詳情中…
  • 案例 A6D793BF

    要怎麼挑選喜歡的光學鏡框?

    已完成
    第 1 次嘗試 · 已完成 39846ms

    載入詳情中…
  • 案例 281D1EAB

    初次配眼鏡需要帶處方籤嗎

    已完成
    第 1 次嘗試 · 已完成 48678ms

    載入詳情中…
  • 案例 3AF988CD

    在台灣購買的鏡框有沒有保固服務？

    已完成
    第 1 次嘗試 · 已完成 50211ms

    載入詳情中…
  • 案例 589B2654

    收到錯誤商品要拍什麼照片?

    已完成
    第 1 次嘗試 · 已完成 48350ms

    載入詳情中…
  • 案例 6A4034AE

    請問我需要填入什麼老花度數資訊？

    已完成
    第 1 次嘗試 · 已完成 34231ms

    載入詳情中…
  • 案例 0322671F

    鼻墊、螺絲及腳套更換需要錢嗎?

    已完成
    第 1 次嘗試 · 已完成 31311ms

    載入詳情中…
項目 II.

情境調用與完成

scenario_funnel 10 cases

維度總表

各維度品質分 · 覆蓋率
走對流程 召回
scenario
100.0%
[100.0% – 100.0%] · n=10
F1 100.0% · 召回 100.0% · 精確 100.0%
10 / 10 適用
用對工具 召回
tool_usage
100.0%
[100.0% – 100.0%] · n=10
F1 100.0% · 召回 100.0% · 精確 100.0%
10 / 10 適用
答得到位 平均
answer_quality
55.3%
[39.3% – 69.0%] · n=10
10 / 10 適用
  • 案例 A4F1AD21

    請問鏡片的種類有哪些？

    已完成
    第 1 次嘗試 · 已完成 36299ms

    載入詳情中…
  • 案例 523725BF

    有沒有最近的優惠活動可以參加?

    已完成
    第 1 次嘗試 · 已完成 33238ms

    載入詳情中…
  • 案例 999B8E33

    請問這款鏡片的價格和種類是什麼呢？

    已完成
    第 1 次嘗試 · 已完成 53169ms

    載入詳情中…
  • 案例 F95C32E5

    你們的優惠活動在哪裡可以查詢?

    已完成
    第 1 次嘗試 · 已完成 70280ms

    載入詳情中…
  • 案例 9515A2C3

    我想知道如果我有問題可以怎麼查詢?

    已完成
    第 1 次嘗試 · 已完成 52052ms

    載入詳情中…
  • 案例 507BA20D

    現在有什麼活動嗎?

    已完成
    第 1 次嘗試 · 已完成 36136ms

    載入詳情中…
  • 案例 63702FC0

    請問怎麼使用這款產品？

    已完成
    第 1 次嘗試 · 已完成 27667ms

    載入詳情中…
  • 案例 512B3BD0

    請問貴公司服務時間是什麼時候？

    已完成
    第 1 次嘗試 · 已完成 25681ms

    載入詳情中…
  • 案例 934FCABB

    請問科技假髮的使用方法是什麼？

    已完成
    第 1 次嘗試 · 已完成 21677ms

    載入詳情中…
  • 案例 9BBBD7A2

    查詢產品價格要怎麼做?

    已完成
    第 1 次嘗試 · 已完成 25698ms

    載入詳情中…
項目 III.

對話素養（混合問答）

mixed_qa 10 cases

維度總表

各維度品質分 · 覆蓋率
找對資料 召回
retrieval
100.0%
[100.0% – 100.0%] · n=8
F1 18.2% · 相關率 12.5% · 精確 10.0%
8 / 10 適用
不亂編造 平均
faithfulness
92.6%
[77.8% – 100.0%] · n=9
10 / 10 適用
答得到位 平均
answer_quality
86.7%
[69.7% – 99.0%] · n=10
10 / 10 適用
  • 案例 B26B9AA0

    你們門市有提供生理食鹽水和隱形眼鏡盒嗎?

    已完成
    第 1 次嘗試 · 已完成 32246ms

    載入詳情中…
  • 案例 8AF46604

    請問如果我很生氣的話，可以轉接到人類客服嗎?

    已完成
    第 1 次嘗試 · 已完成 27844ms

    載入詳情中…
  • 案例 F355B624

    轉接真人客服的條件是什麼?

    已完成
    第 1 次嘗試 · 已完成 43280ms

    載入詳情中…
  • 案例 1DFA9AB3

    為什麼不建議將不同人的驗光資料放在同一個會員帳號？

    已完成
    第 1 次嘗試 · 已完成 27190ms

    載入詳情中…
  • 案例 E3A2EF59

    線上製作有度數墨鏡需要提供什麼？

    已完成
    第 1 次嘗試 · 已完成 43583ms

    載入詳情中…
  • 案例 D46C26AC

    鏡片有防反光功能嗎?

    已完成
    第 1 次嘗試 · 已完成 37018ms

    載入詳情中…
  • 案例 52EBBF1B

    保固不適用的狀況有哪些?

    已完成
    第 1 次嘗試 · 已完成 13468ms

    載入詳情中…
  • 案例 E4FD8FA0

    請問眼鏡維修大約需要多久呢？

    已完成
    第 1 次嘗試 · 已完成 36612ms

    載入詳情中…
  • 案例 EB688E70

    線上配鏡的度數限制是什麼?

    已完成
    第 1 次嘗試 · 已完成 45197ms

    載入詳情中…
  • 案例 8E56345E

    請問JINS商品可以在PCHOME上購買嗎？

    已完成
    第 1 次嘗試 · 已完成 24702ms

    載入詳情中…