產出 #647

env=production · 測試型 (83d6a51a-8194-407f-94b2-85326f27a0b7) · eval_kind=scenario_funnel

已完成
已寫入
10 / 10
通過驗證
10
場景覆蓋
3 / 4
總成本
$0.0196
Tokens
↑146231 / ↓4356
MISSED
1 個 scenario 未被任何 case 涵蓋:778。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-83d6a51a-r1-054000407
案例明細(27 筆 — 含已寫入、被拒、retry 軌跡)
  • 已寫入 EvalSuite scenario_focused 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:知識與產品查詢 779
      知識與產品查詢
      
      ## 1. 觸發條件
      - 通用查詢觸發(優先級最高 - ABSOLUTE PRIORITY):
                          - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                          - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                          - Short queries under 10 characters
                          - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
      - 活動相關:
                          - 活動/報名/參加
                          - 優惠/折扣/促銷
                          - 抽獎/贈品/獎品
      - 公司資訊相關:
                          - 粉絲團/粉專/FB/Facebook/臉書
                          - Instagram/IG/社群/社群媒體
                          - 官網/網站/官方網站
                          - LINE/Line官方帳號
                          - Youtube/YT/影片/頻道
                          - 公司/品牌/關於我們
      - 服務相關:
                          - 服務時間/營業時間/上班時間
                          - 聯絡方式/電話/信箱/地址
                          - 退換貨/退款/退費
                          - 保固/維修/售後
                          - 配送/運費/到貨時間
                          - 付款方式/分期/優惠
                          - 會員/積分/紅利
                          - 發票/收據/證明
      - 政策相關:
                          - 政策/規定/條款
                          - 隱私/個資/資料
                          - 安全/保障/保護
                          - 責任/義務/權利
      - 技術問題:
                          - 無法/不能/不行
                          - 錯誤/異常/問題
                          - 當機/卡住/慢
                          - 登入/註冊/密碼
                          - 設定/安裝/使用
      - 產品使用方式:
                          - 怎麼用/如何使用/使用方法
                          - 使用方式/操作方式/使用步驟
                          - 安裝/設定/配置
                          - 第一次使用/新手使用/初次使用
                          - 使用技巧/使用建議/使...
    Q
    多少算是短查詢?
    A
    短查詢是指少於10個字的問題,這樣的查詢會觸發通用查詢。
  • 已寫入 EvalSuite scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:使用者退貨 785
      使用者退貨
      
      ## 1. 觸發條件
      - 使用者提到退貨相關字眼時,觸發本流程
      
      ## 3. API 工具
      1. shopline_search_orders — 搜尋 Shopline 訂單資訊。使用自然語言查詢(如「我的訂單編號是: TS100001」、「電話是:0970981389」),系統會自動提取訂單識別資訊進行搜尋。返回客服友善格式,包含訂單狀態、物流進度、追蹤連結等完整資訊。
      
      ## 4. 回覆規則
      - 收集完資訊後,統一回復為「我們收到您的需求,會盡速為您處理!」
    Q
    我的訂單怎麼退貨?
    A
    我們收到您的需求,會盡速為您處理!
  • 已寫入 EvalSuite scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:使用者退貨 785
      使用者退貨
      
      ## 1. 觸發條件
      - 使用者提到退貨相關字眼時,觸發本流程
      
      ## 3. API 工具
      1. shopline_search_orders — 搜尋 Shopline 訂單資訊。使用自然語言查詢(如「我的訂單編號是: TS100001」、「電話是:0970981389」),系統會自動提取訂單識別資訊進行搜尋。返回客服友善格式,包含訂單狀態、物流進度、追蹤連結等完整資訊。
      
      ## 4. 回覆規則
      - 收集完資訊後,統一回復為「我們收到您的需求,會盡速為您處理!」
    Q
    我的訂單編號是: TS100001,可以幫我查一下退貨的狀態嗎
    A
    我們收到您的需求,會盡速為您處理!
  • 已寫入 EvalSuite scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:訂單查詢 780
      訂單查詢
      
      ## 1. 觸發條件
      - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).
      
      訂單查詢的 Agent 情景
      
      ## 3. API 工具
      1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊
      
      ## 4. 回覆規則
      - Provide clear and concise answers based on order search results from tool messages
      - If multiple relevant orders found, combine them logically
      - If no relevant order found, acknowledge and offer to check with customer service
    Q
    我的訂單狀態是什麼?
    A
    請您提供訂購的姓名或聯絡電話,我將幫您查詢訂單狀態。如果找到多個相關訂單,我會邏輯性地合併回覆您。
  • 已寫入 EvalSuite scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:使用者退貨 785
      使用者退貨
      
      ## 1. 觸發條件
      - 使用者提到退貨相關字眼時,觸發本流程
      
      ## 3. API 工具
      1. shopline_search_orders — 搜尋 Shopline 訂單資訊。使用自然語言查詢(如「我的訂單編號是: TS100001」、「電話是:0970981389」),系統會自動提取訂單識別資訊進行搜尋。返回客服友善格式,包含訂單狀態、物流進度、追蹤連結等完整資訊。
      
      ## 4. 回覆規則
      - 收集完資訊後,統一回復為「我們收到您的需求,會盡速為您處理!」
    Q
    退貨的流程是怎樣的?
    A
    我們收到您的需求,會盡速為您處理!系統會自動提取訂單識別資訊進行搜尋,並返回訂單狀態、物流進度等完整資訊。
  • 語意近重複(被 Stage C 拒絕) scenario_focused
    來源素材(點擊查看完整內容)
    • • 對話流程:訂單查詢 780
      訂單查詢
      
      ## 1. 觸發條件
      - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).
      
      訂單查詢的 Agent 情景
      
      ## 3. API 工具
      1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊
      
      ## 4. 回覆規則
      - Provide clear and concise answers based on order search results from tool messages
      - If multiple relevant orders found, combine them logically
      - If no relevant order found, acknowledge and offer to check with customer service
    Q
    我想查詢我的訂單狀態,該怎麼做?
    A
    請提供您的訂單編號及聯絡電話,這樣我才能幫您查詢訂單的詳細資訊。
    原因
    • semantic duplicate of "我可以查詢我的訂單狀態嗎?" (cosine=0.841 ≥ 0.8)
  • 已寫入 EvalSuite scenario_focused 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 對話流程:訂單查詢 780
      訂單查詢
      
      ## 1. 觸發條件
      - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).
      
      訂單查詢的 Agent 情景
      
      ## 3. API 工具
      1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊
      
      ## 4. 回覆規則
      - Provide clear and concise answers based on order search results from tool messages
      - If multiple relevant orders found, combine them logically
      - If no relevant order found, acknowledge and offer to check with customer service
    Q
    請問我可以查詢特定訂單的詳細資訊或運送狀態嗎?
    A
    可以的,若您提供訂單的基本個人資訊,我將能幫您查詢相關的訂單詳情和運送狀態。