產出 #480
env=production · 國王你好 AI 小幫手 (5f1e0efa-76a6-494c-a2e9-2139685f7953) · eval_kind=mixed_qa
已完成
7 / 10
7
2 / 3
$0.0109
↑77669 / ↓3383
MISSED
1 個 scenario 未被任何 case 涵蓋:
7274。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-5f1e0efa-r1-053959933。
案例明細(15 筆 — 含已寫入、被拒、retry 軌跡)
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 知識:請問多久會出貨?要多久才會到貨 know_322130
Q: 請問多久會出貨?要多久才會到貨 A: 訂單成立後,正常約7~10個工作天內就可寄出, 若節慶假日遇訂單較多或不可抗力天災因素,將可能延遲出貨。 通常到貨日會於出貨後的1-2天,如有希望到貨日請先諮詢客服人員,否則將會以成立訂單時的排單安排到貨。 離島地區若遇天候、海相等不可控因素,使船班、航班縮減或停駛,則配達日將會往後順延。 如遇特殊狀況依官網公告為主。
Q從下單到貨通常要多久?A通常到貨日會於出貨後的1-2天。 -
-
Judge LLM 拒絕 直接問答來源素材(點擊查看完整內容)
-
• 產品:國王豐采慶典(附禮袋) prod_850961
國王豐采慶典(附禮袋) Summary: Description: (593g)內容物 ◆國王厚燒蛋捲(各1份/每包5支) 蛋香原味、經典芝麻、濃黑可可 ◆單包曲奇(各2份/每份3片) 經典原味、伯爵紅茶 ◆單包脆糖派(各10份/每份1入) 經典原味、伯爵紅茶
Q國王豐采慶典裡有什麼?A國王豐采慶典包含國王厚燒蛋捲,每包有 5 支,口味包括蛋香原味、經典芝麻和濃黑可可。原因- The answer omits other items included in the celebration, such as cookies and crispy sugar pies.
- Judge LLM 認為答案與資料來源有事實出入
-
-
Judge LLM 拒絕 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:國王豐采慶典(附禮袋) prod_850961
國王豐采慶典(附禮袋) Summary: Description: (593g)內容物 ◆國王厚燒蛋捲(各1份/每包5支) 蛋香原味、經典芝麻、濃黑可可 ◆單包曲奇(各2份/每份3片) 經典原味、伯爵紅茶 ◆單包脆糖派(各10份/每份1入) 經典原味、伯爵紅茶
Q國王豐采慶典裡有什麼?A國王豐采慶典包含國王厚燒蛋捲,每包有5支,口味包括蛋香原味、經典芝麻和濃黑可可。原因- The answer only mentions the '國王厚燒蛋捲' but omits other items like '單包曲奇' and '單包脆糖派' that are part of the celebration.
- Judge LLM 認為答案與資料來源有事實出入
-
-
Judge LLM 拒絕 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 產品:國王豐采慶典(附禮袋) prod_850961
國王豐采慶典(附禮袋) Summary: Description: (593g)內容物 ◆國王厚燒蛋捲(各1份/每包5支) 蛋香原味、經典芝麻、濃黑可可 ◆單包曲奇(各2份/每份3片) 經典原味、伯爵紅茶 ◆單包脆糖派(各10份/每份1入) 經典原味、伯爵紅茶
Q國王豐采慶典裡面有什麼?A國王豐采慶典裡面包含國王厚燒蛋捲,每包有5支,口味包括蛋香原味、經典芝麻和濃黑可可。原因- The answer omits other items included in the celebration, such as cookies and crispy sugar pies.
- Judge LLM 認為答案與資料來源有事實出入
-
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 對話流程:推薦商品 7295
推薦商品 ## 1. 觸發條件 - 當用戶詢問有xx產品嗎 ## 3. API 工具 1. search_products — 根據使用者需求從產品庫中搜尋並推薦相關產品 ## 4. 回覆規則 - 1.當用戶詢問有xx產品時,詢問對方要什麼品項,若用戶已經提到品項,直接找尋對應產品推薦 2.產品推薦回覆格式: -產品名稱: -產品特色:中文10字內 -產品價格 ##其他內容不得提供
Q你們有什麼髮片推薦嗎A請問你想要什麼樣的髮片呢? -
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 知識:請問運送多少錢,有免運嗎 know_322127
Q: 請問運送多少錢,有免運嗎 A: 本島運費:消費滿3000元可享有免運,若未滿需收150元運費(限寄台灣本島/特殊地址、偏遠地區、離島地址運費以材積計算)。 ※特殊地址清單※偏遠地區清單◆特殊地址、偏遠地區無法享有免運。 限寄同一地址,若需要分寄地址: 1.選擇Line@訂購(無法享有官網優惠)。 2.拆單訂購(若有贈品無法累計優惠)◆若製作小卡拆單金額無法合併計算。 離島運費:離島運費以材積計算,無法享有免運優惠,運費金額將會以電話通知。 訂購人資料請務必提供清楚,否則將會影響訂單配送流程。
Q運送費用是多少,滿多少才免運?A本島運費:消費滿3000元可享有免運,若未滿需收150元運費。 -
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 對話流程:轉接真人客服 7273
轉接真人客服 ## 1. 觸發條件 - 當用戶要求轉接真人客服,例如:線上客服、真人客服、轉真人、找真人 轉接真人客服的 Agent 情景 ## 4. 回覆規則 - 直接觸發轉接真人
Q請問可以要求轉接真人客服嗎?A轉接真人客服 -
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 知識:離島可以送嗎 know_322128
Q: 離島可以送嗎 A: 可以的喔,運費以材積計算,沒有免運優惠呦,運費將會電話通知
Q請問離島的運費是怎麼計算的呢?A離島的運費是依材積計算,沒有免運優惠,運費會以電話通知您。 -
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答來源素材(點擊查看完整內容)
-
• 對話流程:知識與產品查詢 7274
知識與產品查詢 ## 1. 觸發條件 - 當用戶提出問題或查詢需求時觸發 統一處理知識庫查詢與產品資訊查詢,使用並發搜尋提供完整資訊 ## 2. 資訊收集 ### knowledge_and_product_search_parameters — 知識庫與產品並發搜尋參數 - query [text] (必填): User's current main question or topic to inquire about, or product they want to query or get recommendations for (3-20 word phrase, focusing on latest intent, excluding resolved or irrelevant content) - keywords_or_codes [text] (必填): All codes, labels, product keywords, model numbers appearing in user's message (e.g., C90012, T1234), empty array if none ## 3. API 工具 1. search_knowledges — 從知識庫中搜尋與使用者查詢相關的知識 ## 4. 回覆規則 - 資訊類問題 → 僅回答知識內容,不主動推薦產品 用戶明確要求推薦時 → 僅提供名稱、價格、特色
Q請問可以查詢一下 C90012 的資料嗎?A好的,關於 C90012 的相關資訊,我會從知識庫中搜尋。請稍等。原因- chat-realism: sku_prefix_leak (The question contains a bare internal SKU prefix, which is not typical for a real customer inquiry.)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 對話流程:知識與產品查詢 7274
知識與產品查詢 ## 1. 觸發條件 - 當用戶提出問題或查詢需求時觸發 統一處理知識庫查詢與產品資訊查詢,使用並發搜尋提供完整資訊 ## 2. 資訊收集 ### knowledge_and_product_search_parameters — 知識庫與產品並發搜尋參數 - query [text] (必填): User's current main question or topic to inquire about, or product they want to query or get recommendations for (3-20 word phrase, focusing on latest intent, excluding resolved or irrelevant content) - keywords_or_codes [text] (必填): All codes, labels, product keywords, model numbers appearing in user's message (e.g., C90012, T1234), empty array if none ## 3. API 工具 1. search_knowledges — 從知識庫中搜尋與使用者查詢相關的知識 ## 4. 回覆規則 - 資訊類問題 → 僅回答知識內容,不主動推薦產品 用戶明確要求推薦時 → 僅提供名稱、價格、特色
Q請問,如何查詢產品資訊和知識?A您可以提出您的主要問題或查詢需求,並提供產品的相關代碼或關鍵字,這樣我就可以幫您查詢相關的知識或產品資訊。原因- chat-realism: formal_chinese (The phrasing '如何查詢產品資訊和知識' is too formal for a typical customer inquiry in chat.)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 對話流程:知識與產品查詢 7274
知識與產品查詢 ## 1. 觸發條件 - 當用戶提出問題或查詢需求時觸發 統一處理知識庫查詢與產品資訊查詢,使用並發搜尋提供完整資訊 ## 2. 資訊收集 ### knowledge_and_product_search_parameters — 知識庫與產品並發搜尋參數 - query [text] (必填): User's current main question or topic to inquire about, or product they want to query or get recommendations for (3-20 word phrase, focusing on latest intent, excluding resolved or irrelevant content) - keywords_or_codes [text] (必填): All codes, labels, product keywords, model numbers appearing in user's message (e.g., C90012, T1234), empty array if none ## 3. API 工具 1. search_knowledges — 從知識庫中搜尋與使用者查詢相關的知識 ## 4. 回覆規則 - 資訊類問題 → 僅回答知識內容,不主動推薦產品 用戶明確要求推薦時 → 僅提供名稱、價格、特色
Q請問能提供關於產品的所有關鍵字和代碼嗎?A請提供您的查詢主題或產品,並列出所有相關的代碼和關鍵字,這樣我才能為您提供相關的資訊。原因- chat-realism: sku_prefix_leak (The question includes '代碼', which suggests an internal SKU reference that a real customer wouldn't use.)
-
-
Judge LLM 拒絕 直接問答來源素材(點擊查看完整內容)
-
• 產品:綜合脆糖派禮盒 prod_850962
綜合脆糖派禮盒 Summary: Description: 共24片 12片經典原味 12片伯爵紅茶
Q綜合脆糖派禮盒有什麼口味?A綜合脆糖派禮盒包含 12 片伯爵紅茶。原因- The answer only mentions one flavor (伯爵紅茶) but the sources indicate there are two flavors: 經典原味 and 伯爵紅茶.
- Judge LLM 認為答案與資料來源有事實出入
-
-
Judge LLM 拒絕 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:綜合脆糖派禮盒 prod_850962
綜合脆糖派禮盒 Summary: Description: 共24片 12片經典原味 12片伯爵紅茶
Q綜合脆糖派禮盒裡面有什麼?A綜合脆糖派禮盒包含 12 片伯爵紅茶。原因- The answer incorrectly states the total number of pieces as 12 instead of 24.
-
-
已寫入 EvalSuite 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 產品:綜合脆糖派禮盒 prod_850962
綜合脆糖派禮盒 Summary: Description: 共24片 12片經典原味 12片伯爵紅茶
Q綜合脆糖派禮盒包含多少片伯爵紅茶?A綜合脆糖派禮盒包含12片伯爵紅茶。 -
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 知識:你們有什麼運送方式 know_322129
Q: 你們有什麼運送方式 A: 宅配:由黑貓宅急便協助寄出。 ◎若有預期送達日期及時段,請先諮詢客服人員,允許的情況下我們會盡量協助於您期望的時間送達。 ◎請注意配送端僅配送至地址一樓。 ◎黑貓宅配無法寄送至郵政信箱。 暫不提供超商取貨。 暫不提供海外配送。
Q你們有提供超商取貨嗎A暫不提供超商取貨。 -