產出 #596

env=production · 木頭人 (65f3e0fb-a7df-4e17-8474-63bef762f303) · eval_kind=scenario_funnel

已完成
已寫入
10 / 10
通過驗證
10
場景覆蓋
2 / 3
總成本
$0.0205
Tokens
↑149678 / ↓4041
MISSED
1 個 scenario 未被任何 case 涵蓋：410。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-65f3e0fb-r1-054000243。
案例明細（24 筆 — 含已寫入、被拒、retry 軌跡）
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    查詢我的訂單需要提供什麼資訊?
    A
    訂單查詢時需要提供必要的個人資訊，包括您的姓名和訂單編號等，才能進行查詢。
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：知識與產品查詢 411 
      知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...
    Q
    目前有什麼活動或優惠可以參加嗎？
    A
    目前我們有一些活動和優惠，您可以查詢最新的促銷和報名資訊。若想要詳細了解某項活動，請告訴我具體的名稱或內容，我會幫您查詢更多資訊。
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    我之前下的訂單查詢一下，然後如果有多個訂單會怎麼處理？
    A
    我可以幫你查詢訂單，然後如果發現有多個相關的訂單，系統會將它們邏輯性地合併回覆，讓你一次看到所有訂單的相關資訊。
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    我的訂單狀態可以查詢嗎?
    A
    請提供您的訂購姓名或聯絡電話，以便我幫您查詢訂單狀態。
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：知識與產品查詢 411 
      知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...
    Q
    產品維護要怎麼做？
    A
    產品維護包括定期的清潔、檢查以及遵循使用說明書中提供的保養建議。建議您查看具體產品的使用手冊以獲取詳細資訊。使用期限及壽命通常與保養狀況有直接關係，良好的維護能延長產品的使用壽命。
  • 語意近重複（被 Stage C 拒絕） scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    我的訂單狀態是什麼?
    A
    可以提供您的訂購姓名和聯絡電話嗎? 這樣我才能幫您查詢訂單狀態。
    原因
    • semantic duplicate of "我的訂單狀態可以查詢嗎?" (cosine=0.811 ≥ 0.8)
  • 語意近重複（被 Stage C 拒絕） scenario_focused 第 2 次嘗試
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    我可以查詢一下我的訂單狀態嗎?
    A
    請提供您的訂購姓名和聯絡電話，我才能幫您查詢訂單狀態。
    原因
    • semantic duplicate of "我的訂單狀態可以查詢嗎?" (cosine=0.891 ≥ 0.8)
  • 語意近重複（被 Stage C 拒絕） scenario_focused 第 3 次嘗試
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    我的訂單狀態怎麼樣?
    A
    請提供您的姓名和訂單編號，我可以幫您查詢訂單詳細資訊。
    原因
    • semantic duplicate of "我的訂單狀態可以查詢嗎?" (cosine=0.833 ≥ 0.8)
  • Judge LLM 拒絕 early_return
    Q
    今天天氣不錯吧
    A
    您好，我是客服AI，很高興為您服務。
    原因
    • The question is not answerable as there are no sources provided.
    • The answer does not address the question asked.
    • Judge LLM 認為答案與資料來源有事實出入
    • Judge LLM 信心度只有 0%（門檻 60%）—— 對「答案是否正確」的判斷不夠確定
  • Judge LLM 拒絕 early_return 第 2 次嘗試
    Q
    這裡的天氣怎麼樣?
    A
    您好，我是客服 AI，很高興為您服務。
    原因
    • The question is not answerable as there are no sources provided.
    • The answer does not address the question about the weather.
    • Judge LLM 認為答案與資料來源有事實出入
    • Judge LLM 信心度只有 0%（門檻 60%）—— 對「答案是否正確」的判斷不夠確定
  • Judge LLM 拒絕 early_return 第 3 次嘗試
    Q
    今天的天氣怎麼樣?
    A
    這個問題不在我服務範圍內。
    原因
    • No sources provided to answer the question.
    • Judge LLM 認為這題從資料來源無法答出來
    • Judge LLM 認為答案與資料來源有事實出入
  • Judge LLM 拒絕 early_return
    Q
    你們最近好嗎
    A
    您好，我是客服 AI，很高興為您服務。
    原因
    • The question is not answerable as there are no sources provided.
    • The answer does not address the question directly.
    • Judge LLM 認為答案與資料來源有事實出入
    • Judge LLM 信心度只有 0%（門檻 60%）—— 對「答案是否正確」的判斷不夠確定
  • Judge LLM 拒絕 early_return 第 2 次嘗試
    Q
    今天天氣怎麼樣啊
    A
    您好，我是客服 AI，很高興為您服務。
    原因
    • The question is not answerable as there are no sources provided.
    • The answer does not address the question about the weather.
    • Judge LLM 認為答案與資料來源有事實出入
    • Judge LLM 信心度只有 0%（門檻 60%）—— 對「答案是否正確」的判斷不夠確定
  • Judge LLM 拒絕 early_return 第 3 次嘗試
    Q
    最近天氣怎麼樣啊
    A
    這個問題不在我服務範圍內。
    原因
    • No sources provided to answer the question.
    • Judge LLM 認為這題從資料來源無法答出來
  • 語意近重複（被 Stage C 拒絕） scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：知識與產品查詢 411 
      知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...
    Q
    有沒有優惠活動啊?
    A
    目前我們有一些優惠活動，不過具體內容可能會隨時更新，建議您查看我們的官方網站以獲取最新的資訊。官方網站: [您的官方網站連結]
    原因
    • semantic duplicate of "目前有什麼活動或優惠可以參加嗎？" (cosine=0.802 ≥ 0.8)
  • 已寫入 EvalSuite scenario_focused 第 2 次嘗試
    來源素材（點擊查看完整內容）
    • • 對話流程：知識與產品查詢 411 
      知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...
    Q
    現在有什麼活動嗎
    A
    目前活動相關的資訊有關於報名、優惠、折扣等。如果有特定活動想詢問，請告訴我，我可以幫你查詢更多資訊。
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：知識與產品查詢 411 
      知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...
    Q
    你們的官網跟粉絲團是什麼?
    A
    我們的官網是 https://www.raccoonai.com，而粉絲團的 Facebook 頁面可以在 https://www.facebook.com/raccoonai 找到。
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：知識與產品查詢 411 
      知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...
    Q
    你們的粉絲團名稱是什麼?
    A
    我們的粉絲團名稱是 RaccoonAI，您可以在 Facebook 上找到我們，隨時歡迎加入！
  • 已寫入 EvalSuite scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    如果找不到我的訂單，該怎麼辦？
    A
    如果系統沒有找到相關訂單，我會協助確認並提供聯繫客服的選項。
  • 語意近重複（被 Stage C 拒絕） scenario_focused
    來源素材（點擊查看完整內容）
    • • 對話流程：訂單查詢 412 
      訂單查詢

## 1. 觸發條件
- When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info).

訂單查詢的 Agent 情景

## 3. API 工具
1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊

## 4. 回覆規則
- Provide clear and concise answers based on order search results from tool messages
- If multiple relevant orders found, combine them logically
- If no relevant order found, acknowledge and offer to check with customer service
    Q
    查詢我的訂單需要提供什麼個人資訊？
    A
    進行訂單查詢時，您需要提供必要的個人資訊，以便我們可以找到您的訂單詳情。這些資訊可能包括您的姓名、聯絡電話或訂單編號等。
    原因
    • semantic duplicate of "查詢我的訂單需要提供什麼資訊?" (cosine=0.92 ≥ 0.8)