產出 #608
env=production · 松露AI (a7445500-d6b7-45b2-8c34-713304b6a12e) · eval_kind=scenario_funnel
已完成
10 / 10
10
3 / 4
$0.0121
↑90048 / ↓3289
MISSED
1 個 scenario 未被任何 case 涵蓋:
276。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-a7445500-r1-054000299。
案例明細(18 筆 — 含已寫入、被拒、retry 軌跡)
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q查詢訂單的時候需要提供哪些個人資訊?A查詢訂單時,您需要提供必要的個人資訊,例如訂單編號和您的聯絡電話,以便我能夠幫您查詢相關的訂單資訊。 -
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:產品查詢 278
產品查詢 ## 1. 觸發條件 - 商品/產品 - 推薦/介紹 - 我想要/我需要 產品查詢的 Agent 情景 ## 2. 資訊收集 ### product_search_parameters — 商品搜尋參數 - query [string] (必填): 用戶當前最想查詢或推薦的商品、需求或關鍵主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有商品關鍵字、型號、代碼,如無則為空陣列 ## 3. API 工具 1. search_products — 搜尋相關產品或服務資訊 ## 4. 回覆規則 - All recommendations must be based on content output from <tool: search_products>, never fabricate. - If multiple relevant orders found, combine them logically - If unable to recommend, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_products> outputs.
Q我可以查詢什麼商品嗎?A請提供您想查詢的商品名稱或任何關鍵字、型號或代碼,方便我幫您搜尋相關產品資訊。 -
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:產品查詢 278
產品查詢 ## 1. 觸發條件 - 商品/產品 - 推薦/介紹 - 我想要/我需要 產品查詢的 Agent 情景 ## 2. 資訊收集 ### product_search_parameters — 商品搜尋參數 - query [string] (必填): 用戶當前最想查詢或推薦的商品、需求或關鍵主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有商品關鍵字、型號、代碼,如無則為空陣列 ## 3. API 工具 1. search_products — 搜尋相關產品或服務資訊 ## 4. 回覆規則 - All recommendations must be based on content output from <tool: search_products>, never fabricate. - If multiple relevant orders found, combine them logically - If unable to recommend, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_products> outputs.
Q我想查詢一下有關髮片的資訊A請告訴我您對髮片的需求或具體想要查詢的內容,我會幫您搜尋相關產品資訊。 -
-
Judge LLM 拒絕 early_returnQ你們最近怎麼樣啊A您好,我是客服 AI,很高興為您服務原因
- The question is not answerable as there are no sources provided.
- The answer does not address the question asked.
- Judge LLM 認為答案與資料來源有事實出入
- Judge LLM 信心度只有 0%(門檻 60%)—— 對「答案是否正確」的判斷不夠確定
-
Judge LLM 拒絕 early_return 第 2 次嘗試Q今天天氣怎麼樣啊A您好,我是客服 AI,很高興為您服務原因
- The question is not answerable as there are no sources provided.
- The answer does not address the question asked.
- Judge LLM 認為答案與資料來源有事實出入
- Judge LLM 信心度只有 0%(門檻 60%)—— 對「答案是否正確」的判斷不夠確定
-
Judge LLM 拒絕 early_return 第 3 次嘗試Q今天天氣怎麼樣啊A這個問題不在我服務範圍內。原因
- No sources provided to answer the question.
- Judge LLM 認為這題從資料來源無法答出來
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q請問我能查詢一下我的訂單狀態嗎?A請提供您的姓名或訂單編號,我才能幫您查詢訂單狀態。 -
-
語意近重複(被 Stage C 拒絕) scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q請問我可以怎麼查詢我的訂單狀態呢?A請提供您的訂單相關資訊,例如姓名或電話,我可以幫您查詢訂單狀態。原因- semantic duplicate of "請問我能查詢一下我的訂單狀態嗎?" (cosine=0.952 ≥ 0.8)
-
-
語意近重複(被 Stage C 拒絕) scenario_focused 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q請問我可以查詢一下我的訂單狀態嗎?A請提供您的訂單相關資訊,我可以根據聊天記錄協助您查詢訂單狀態。原因- semantic duplicate of "請問我能查詢一下我的訂單狀態嗎?" (cosine=0.987 ≥ 0.8)
-
-
語意近重複(被 Stage C 拒絕) scenario_focused 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q請問我可以如何查詢我的訂單狀態呢?A請提供您的訂單資訊,以便我可以根據聊天記錄幫您搜尋相關訂單資訊。原因- semantic duplicate of "請問我能查詢一下我的訂單狀態嗎?" (cosine=0.943 ≥ 0.8)
-
-
語意近重複(被 Stage C 拒絕) scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:產品查詢 278
產品查詢 ## 1. 觸發條件 - 商品/產品 - 推薦/介紹 - 我想要/我需要 產品查詢的 Agent 情景 ## 2. 資訊收集 ### product_search_parameters — 商品搜尋參數 - query [string] (必填): 用戶當前最想查詢或推薦的商品、需求或關鍵主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有商品關鍵字、型號、代碼,如無則為空陣列 ## 3. API 工具 1. search_products — 搜尋相關產品或服務資訊 ## 4. 回覆規則 - All recommendations must be based on content output from <tool: search_products>, never fabricate. - If multiple relevant orders found, combine them logically - If unable to recommend, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_products> outputs.
Q想查詢有什麼髮片嗎A想查詢的髮片可以透過我的搜尋功能找到,請告訴我你希望的髮片型號或特點。原因- semantic duplicate of "我想查詢一下有關髮片的資訊" (cosine=0.821 ≥ 0.8)
-
-
已寫入 EvalSuite scenario_focused 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 對話流程:產品查詢 278
產品查詢 ## 1. 觸發條件 - 商品/產品 - 推薦/介紹 - 我想要/我需要 產品查詢的 Agent 情景 ## 2. 資訊收集 ### product_search_parameters — 商品搜尋參數 - query [string] (必填): 用戶當前最想查詢或推薦的商品、需求或關鍵主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有商品關鍵字、型號、代碼,如無則為空陣列 ## 3. API 工具 1. search_products — 搜尋相關產品或服務資訊 ## 4. 回覆規則 - All recommendations must be based on content output from <tool: search_products>, never fabricate. - If multiple relevant orders found, combine them logically - If unable to recommend, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_products> outputs.
Q想查產品資訊A請告訴我你想要查詢的產品名稱或類型,這樣我能幫你找到相關資訊。 -
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:FAQ查詢 277
FAQ查詢 ## 1. 觸發條件 - 品牌問題 - 平台規則 - 常見問題 - 知識庫 - 問答 - 品牌相關問題 FAQ 查詢的 Agent 情景 ## 2. 資訊收集 ### search_parameters — 搜尋參數 - query [string] (必填): 用戶當前最想查詢或了解的重點問題或主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有代碼或標籤(如C90012、T1234等),如無則為空陣列 ## 3. API 工具 1. search_knowledges — 搜尋相關FAQ回答用戶問題 ## 4. 回覆規則 - All answer must be based on content output from <tool: search_knowledges>, never fabricate. - If multiple relevant answers found, combine them logically and clarify with the user. - If unable to answer, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_knowledges> outputs.
Q如何查詢品牌的常見問題?A您可以通過我們的知識庫查詢品牌的常見問題,請告訴我您具體想查詢的主題或問題,我將幫您找到相關的FAQ資訊。 -
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:FAQ查詢 277
FAQ查詢 ## 1. 觸發條件 - 品牌問題 - 平台規則 - 常見問題 - 知識庫 - 問答 - 品牌相關問題 FAQ 查詢的 Agent 情景 ## 2. 資訊收集 ### search_parameters — 搜尋參數 - query [string] (必填): 用戶當前最想查詢或了解的重點問題或主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有代碼或標籤(如C90012、T1234等),如無則為空陣列 ## 3. API 工具 1. search_knowledges — 搜尋相關FAQ回答用戶問題 ## 4. 回覆規則 - All answer must be based on content output from <tool: search_knowledges>, never fabricate. - If multiple relevant answers found, combine them logically and clarify with the user. - If unable to answer, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_knowledges> outputs.
Q請問我可以在哪裡找到產品的常見問題呢?A您可以在我們的知識庫中找到產品的常見問題。如果需要更具體的資訊,請告訴我您想了解的主題或問題。 -
-
語意近重複(被 Stage C 拒絕) scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q查詢我的訂單狀態,可以幫我看看嗎?A我需要一些個人資訊來查詢您的訂單狀態。請提供您的姓名或訂單編號。若找到多個相關訂單,系統會邏輯性地合併回覆您。若沒有找到相關訂單,我可以協助您聯繫客服。原因- semantic duplicate of "請問我能查詢一下我的訂單狀態嗎?" (cosine=0.837 ≥ 0.8)
-
-
已寫入 EvalSuite scenario_focused 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 對話流程:訂單查詢 279
訂單查詢 ## 1. 觸發條件 - When user has questions about specific order details, shipping status, or purchase history (only after user provides required personal info). 訂單查詢的 Agent 情景 ## 3. API 工具 1. shopline_search_orders — 根據聊天記錄搜尋相關訂單資訊 ## 4. 回覆規則 - Provide clear and concise answers based on order search results from tool messages - If multiple relevant orders found, combine them logically - If no relevant order found, acknowledge and offer to check with customer service
Q我想查詢一下我的訂單,但不太確定有多少筆相關的訂單,可以告訴我嗎?A我需要你的姓名或電話號碼來查詢你的訂單。如果找到多個相關訂單,我會邏輯性地合併回覆你。 -
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:產品查詢 278
產品查詢 ## 1. 觸發條件 - 商品/產品 - 推薦/介紹 - 我想要/我需要 產品查詢的 Agent 情景 ## 2. 資訊收集 ### product_search_parameters — 商品搜尋參數 - query [string] (必填): 用戶當前最想查詢或推薦的商品、需求或關鍵主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有商品關鍵字、型號、代碼,如無則為空陣列 ## 3. API 工具 1. search_products — 搜尋相關產品或服務資訊 ## 4. 回覆規則 - All recommendations must be based on content output from <tool: search_products>, never fabricate. - If multiple relevant orders found, combine them logically - If unable to recommend, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_products> outputs.
Q有沒有推薦的產品可以查詢一下A可以告訴我你想查詢的商品或需求嗎? -
-
已寫入 EvalSuite scenario_focused來源素材(點擊查看完整內容)
-
• 對話流程:FAQ查詢 277
FAQ查詢 ## 1. 觸發條件 - 品牌問題 - 平台規則 - 常見問題 - 知識庫 - 問答 - 品牌相關問題 FAQ 查詢的 Agent 情景 ## 2. 資訊收集 ### search_parameters — 搜尋參數 - query [string] (必填): 用戶當前最想查詢或了解的重點問題或主題(3-20字短語,聚焦最新意圖,排除已解決或無關內容) - keywords_or_codes [array] (必填): 用戶訊息中出現的所有代碼或標籤(如C90012、T1234等),如無則為空陣列 ## 3. API 工具 1. search_knowledges — 搜尋相關FAQ回答用戶問題 ## 4. 回覆規則 - All answer must be based on content output from <tool: search_knowledges>, never fabricate. - If multiple relevant answers found, combine them logically and clarify with the user. - If unable to answer, clearly explain and suggest human customer service assistance. - Strictly prohibit referencing, rewriting, or mixing content outside of <tool: search_knowledges> outputs.
Q查詢的時候需要提供什麼參數?A查詢時需要提供兩個必填的搜尋參數:query 和 keywords_or_codes。query 是你最想查詢的問題或主題,必須是3-20字的短語,而 keywords_or_codes 是你訊息中出現的代碼或標籤,如沒有則為空陣列。 -