產出 #215

env=production · HeySong (731344ba-569c-4e27-871f-4b8d52d81cb8) · eval_kind=scenario_funnel

已完成
已寫入
10 / 10
通過驗證
10
場景覆蓋
2 / 4
總成本
$0.0482
Tokens
↑382251 / ↓10399
MISSED
2 個 scenario 未被任何 case 涵蓋:2379, 2233。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-731344ba-r1-053958786
案例明細(74 筆 — 含已寫入、被拒、retry 軌跡)
  • 語意近重複(被 Stage C 拒絕) scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:情境 ABC 2377
      情境 ABC
      
      ## 1. 觸發條件
      - 1233211234567
    Q
    請問什麼情況下會觸發情境 ABC?
    A
    情境 ABC 的觸發條件是 1233211234567。
    原因
    • semantic duplicate of "情境 ABC 是什麼時候觸發的?" (cosine=0.897 ≥ 0.8)
  • 語意近重複(被 Stage C 拒絕) scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:情境 ABC 2377
      情境 ABC
      
      ## 1. 觸發條件
      - 1233211234567
    Q
    請問情境 ABC 的觸發條件是什麼呢?
    A
    情境 ABC 的觸發條件是 1233211234567。
    原因
    • semantic duplicate of "情境 ABC 是什麼時候觸發的?" (cosine=0.854 ≥ 0.8)
  • 其他 scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:情境 ABC 2377
      情境 ABC
      
      ## 1. 觸發條件
      - 1233211234567
    Q
    請問情境 ABC 的觸發條件是什麼呢?
    A
    情境 ABC 的觸發條件是 1233211234567。
    原因
    • duplicate (scenario, question)
  • 其他 scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 語氣不像真人 chat(被 Stage E 拒絕) scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    這是什麼情況下會觸發意圖2的條件?321是什麼意思?
    A
    意圖2的觸發條件為321。
    原因
    • chat-realism: vague_meta (The question is vague and asks about conditions and meanings in a way that doesn't reflect a concrete customer inquiry.)
  • 語氣不像真人 chat(被 Stage E 拒絕) scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    什麼情況會觸發意圖2?
    A
    意圖2的觸發條件為321。
    原因
    • chat-realism: vague_meta (這個問題過於模糊,涉及公司內部的意圖,顯示出不自然的客戶提問方式。)
  • 其他 scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 其他 scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 語氣不像真人 chat(被 Stage E 拒絕) scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    要觸發意圖2需要什麼條件?
    A
    觸發意圖2的條件為321。
    原因
    • chat-realism: vague_meta (The question is vague and asks about conditions related to intent, which is not a concrete inquiry a customer would t...)
  • 語氣不像真人 chat(被 Stage E 拒絕) scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    這個意圖2是什麼情況下會觸發的?
    A
    意圖2的觸發條件為321。
    原因
    • chat-realism: internal_role_title (提到的'意圖2'聽起來像是內部術語,顧客不會這樣詢問。)
  • 其他 scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 語氣不像真人 chat(被 Stage E 拒絕) scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    我想知道意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • chat-realism: vague_meta (這個問題涉及到模糊的公司內部條件,顯得不夠具體,像是對公司整體運作的詢問。)
  • 其他 scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 其他 scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 其他 scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:意圖2 2379
      意圖2
      
      ## 1. 觸發條件
      - 321
    Q
    意圖2的觸發條件是什麼?
    A
    意圖2的觸發條件為321。
    原因
    • duplicate (scenario, question)
  • 已寫入 EvalSuite scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:知識與產品查詢 2234
      知識與產品查詢
      
      ## 1. 觸發條件
      - 通用查詢觸發(優先級最高 - ABSOLUTE PRIORITY):
                          - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                          - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                          - Short queries under 10 characters
                          - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
      - 活動相關:
                          - 活動/報名/參加
                          - 優惠/折扣/促銷
                          - 抽獎/贈品/獎品
      - 公司資訊相關:
                          - 粉絲團/粉專/FB/Facebook/臉書
                          - Instagram/IG/社群/社群媒體
                          - 官網/網站/官方網站
                          - LINE/Line官方帳號
                          - Youtube/YT/影片/頻道
                          - 公司/品牌/關於我們
      - 服務相關:
                          - 服務時間/營業時間/上班時間
                          - 聯絡方式/電話/信箱/地址
                          - 退換貨/退款/退費
                          - 保固/維修/售後
                          - 配送/運費/到貨時間
                          - 付款方式/分期/優惠
                          - 會員/積分/紅利
                          - 發票/收據/證明
      - 政策相關:
                          - 政策/規定/條款
                          - 隱私/個資/資料
                          - 安全/保障/保護
                          - 責任/義務/權利
      - 技術問題:
                          - 無法/不能/不行
                          - 錯誤/異常/問題
                          - 當機/卡住/慢
                          - 登入/註冊/密碼
                          - 設定/安裝/使用
      - 產品使用方式:
                          - 怎麼用/如何使用/使用方法
                          - 使用方式/操作方式/使用步驟
                          - 安裝/設定/配置
                          - 第一次使用/新手使用/初次使用
                          - 使用技巧/使用建議/使...
    Q
    這個髮片價格多少?
    A
    目前這款髮片的價格是 2990 元。如果需要更多的產品資訊或查詢,可以隨時告訴我!
  • 其他 scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:情境 ABC 2377
      情境 ABC
      
      ## 1. 觸發條件
      - 1233211234567
    Q
    情境 ABC 的觸發條件是什麼?
    A
    情境 ABC 的觸發條件是 1233211234567。
    原因
    • duplicate (scenario, question)
  • 其他 scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:情境 ABC 2377
      情境 ABC
      
      ## 1. 觸發條件
      - 1233211234567
    Q
    情境 ABC 的觸發條件是什麼?
    A
    情境 ABC 的觸發條件是 1233211234567。
    原因
    • duplicate (scenario, question)
  • 其他 scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:情境 ABC 2377
      情境 ABC
      
      ## 1. 觸發條件
      - 1233211234567
    Q
    情境 ABC 的觸發條件是什麼?
    A
    情境 ABC 的觸發條件是 1233211234567。
    原因
    • duplicate (scenario, question)
  • Judge LLM 拒絕 scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:知識與產品查詢 2234
      知識與產品查詢
      
      ## 1. 觸發條件
      - 通用查詢觸發(優先級最高 - ABSOLUTE PRIORITY):
                          - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                          - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                          - Short queries under 10 characters
                          - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
      - 活動相關:
                          - 活動/報名/參加
                          - 優惠/折扣/促銷
                          - 抽獎/贈品/獎品
      - 公司資訊相關:
                          - 粉絲團/粉專/FB/Facebook/臉書
                          - Instagram/IG/社群/社群媒體
                          - 官網/網站/官方網站
                          - LINE/Line官方帳號
                          - Youtube/YT/影片/頻道
                          - 公司/品牌/關於我們
      - 服務相關:
                          - 服務時間/營業時間/上班時間
                          - 聯絡方式/電話/信箱/地址
                          - 退換貨/退款/退費
                          - 保固/維修/售後
                          - 配送/運費/到貨時間
                          - 付款方式/分期/優惠
                          - 會員/積分/紅利
                          - 發票/收據/證明
      - 政策相關:
                          - 政策/規定/條款
                          - 隱私/個資/資料
                          - 安全/保障/保護
                          - 責任/義務/權利
      - 技術問題:
                          - 無法/不能/不行
                          - 錯誤/異常/問題
                          - 當機/卡住/慢
                          - 登入/註冊/密碼
                          - 設定/安裝/使用
      - 產品使用方式:
                          - 怎麼用/如何使用/使用方法
                          - 使用方式/操作方式/使用步驟
                          - 安裝/設定/配置
                          - 第一次使用/新手使用/初次使用
                          - 使用技巧/使用建議/使...
    Q
    目前有什麼促銷活動嗎
    A
    根據我的了解,近期有多項促銷活動,比如優惠、抽獎及贈品等。為了確保準確,建議你跟真人客服確認一下喔!
    原因
    • The answer suggests there are multiple promotions without specific details, which is not supported by the sources.
    • The answer includes a recommendation to confirm with customer service, which is not necessary based on the source content.
    • Judge LLM 認為答案與資料來源有事實出入