產出 #645
env=production · 測試 (76166d86-b5ac-404f-b8ad-d9163cc473ef) · eval_kind=mixed_qa
已完成
10 / 10
10
1 / 4
$0.0178
↑134042 / ↓5480
MISSED
3 個 scenario 未被任何 case 涵蓋:
3038, 2942, 2941。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-76166d86-r1-054000399。
案例明細(26 筆 — 含已寫入、被拒、retry 軌跡)
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 產品:350ml eddy+ 兒童吸管保冰/溫水瓶 愛心彩虹 prod_672483
350ml eddy+ 兒童吸管保冰/溫水瓶 愛心彩虹 Summary: 350ml eddy+ 兒童吸管保冰/溫水瓶 愛心彩虹 - CamelBak Description: 品牌:CamelBak;分類:配件類 / 配件類樣品;顏色:單色;尺寸:FREE
Q350ml 兒童吸管保冰瓶有什麼顏色?A350ml 兒童吸管保冰/溫水瓶的顏色為單色。 -
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答來源素材(點擊查看完整內容)
-
• 工具:統一搜尋:multi-lane BM25+Vector RRF 融合(支援 5 種 source_type) 20
統一搜尋:multi-lane BM25+Vector RRF 融合(支援 5 種 source_type) (search_unified) Hybrid search (BM25 + vector) with multi-lane RRF fusion across ALL source types (knowledge, product, link, doc_knowledge, doc_product, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
Q統一搜尋要生成幾個向量查詢?A統一搜尋必須生成三個多樣化的向量查詢。原因- chat-realism: internal_role_title (The question references '生成幾個向量查詢', which suggests an internal role or technical aspect that a typical customer would...)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 工具:統一搜尋:multi-lane BM25+Vector RRF 融合(支援 5 種 source_type) 20
統一搜尋:multi-lane BM25+Vector RRF 融合(支援 5 種 source_type) (search_unified) Hybrid search (BM25 + vector) with multi-lane RRF fusion across ALL source types (knowledge, product, link, doc_knowledge, doc_product, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
Q統一搜尋必須生成幾個向量查詢?A統一搜尋必須生成三個多樣化的向量查詢。原因- chat-realism: internal_role_title (The question references '統一搜尋' in a way that suggests an internal company context, which a typical customer wouldn't ...)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 工具:統一搜尋:multi-lane BM25+Vector RRF 融合(支援 5 種 source_type) 20
統一搜尋:multi-lane BM25+Vector RRF 融合(支援 5 種 source_type) (search_unified) Hybrid search (BM25 + vector) with multi-lane RRF fusion across ALL source types (knowledge, product, link, doc_knowledge, doc_product, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
Q統一搜尋需要生成幾個向量查詢?A統一搜尋必須生成三個多樣化的向量查詢。原因- chat-realism: internal_role_title (The question references '統一搜尋' in a way that suggests an internal company context, which a typical customer wouldn't ...)
-
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 對話流程:商品查詢 3037
商品查詢 ## 1. 觸發條件 - 當用戶提到想要推薦商品時、庫存查詢、商品資料、這個商品如何、我想問這個商品相關 或者用戶直接傳送商品網址、商品圖片等,任何意圖是想要詢問商品的資訊、狀態、庫存細節時 ## 3. API 工具 1. flaps_check_goods_stock — 透過商品代碼查詢庫存。query 為商品代碼(如 21FA6131BL01S)。預設查詢所有正式倉庫,可透過 warehouse_codes 指定特定倉庫。 2. flaps_get_goods_info — 查詢商品資訊(批次同步)。query 為最大回傳筆數(預設 100)。使用 DateThreshold 控制增量同步。首次同步自動帶入 1950-01-01。 3. flaps_get_goods_ser_no — 透過商品代碼查詢對應唯一號。query 為商品代碼(如 21FA6131BL01S)。 ## 4. 回覆規則 - #查詢原則 若商品資訊查詢,請使用【iPIS/GetGoodsInfo】 此API 若庫存查詢需求,請使【iPIS/CheckGoodsStock】此API #執行步驟 1.請先詢問用戶想要查詢的是哪一個商品;提供商品代號或者網址 2.請呼叫API查詢商品相關資訊結果直接返回全部,無論成功還是失敗,請將API結果直接全數輸出 備註:倉庫代號資訊,請需要庫存查詢時每次都查詢所有倉庫 可用倉庫代號: FT000001,FT051101,FT051102,FT051106,FT051109,FT051201,FT051203,FT051402,FT052101,FT052102,FT052109,FT052111,FT052112,FT052114,FT052116,FT052301,W0099
Q請問我可以查詢哪一個商品的庫存呢?A請提供您想查詢的商品代號或網址,我將為您查詢相關的庫存資訊。 -
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 產品:女 Sphere II Cool-Lite™ 坦克背心-AD150-736色 prod_689168
女 Sphere II Cool-Lite™ 坦克背心-AD150-736色 Summary: 女 Sphere II Cool-Lite™ 坦克背心-AD150-736色 - icebreaker Description: 品牌:icebreaker;分類:服飾類 / 樣衣類;顏色:樣品色;尺寸:S
Q女 Sphere II Cool-Lite 坦克背心屬於哪一類?A女 Sphere II Cool-Lite 坦克背心屬於服飾類 / 樣衣類。 -
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答來源素材(點擊查看完整內容)
-
• 產品:特-WR SS08女緊身短褲 prod_666247
特-WR SS08女緊身短褲 Summary: 特-WR SS08女緊身短褲 - Wild Roses Description: 品牌:Wild Roses;分類:服飾類 / 樣衣類;尺寸:M
Q特-WR SS08女緊身短褲的尺寸是多少?A特-WR SS08女緊身短褲的尺寸為M。原因- chat-realism: sku_prefix_leak (Question contains an internal SKU prefix 'WR SS08' that a real customer would not use.)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:特-WR SS08女緊身短褲 prod_666247
特-WR SS08女緊身短褲 Summary: 特-WR SS08女緊身短褲 - Wild Roses Description: 品牌:Wild Roses;分類:服飾類 / 樣衣類;尺寸:M
Q特-WR SS08女緊身短褲的尺寸是什麼?A特-WR SS08女緊身短褲的尺寸為M。原因- chat-realism: sku_prefix_leak (The question contains a bare internal SKU prefix '特-WR SS08' which a real customer would not use.)
-
-
其他 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 產品:特-WR SS08女緊身短褲 prod_666247
特-WR SS08女緊身短褲 Summary: 特-WR SS08女緊身短褲 - Wild Roses Description: 品牌:Wild Roses;分類:服飾類 / 樣衣類;尺寸:M
Q特-WR SS08女緊身短褲的尺寸是多少?A特-WR SS08女緊身短褲的尺寸為M。原因- duplicate (scenario, question)
-
-
已寫入 EvalSuite 直接問答來源素材(點擊查看完整內容)
-
• 產品:男排汗快乾格紋長袖襯衫 prod_696823
男排汗快乾格紋長袖襯衫 Summary: 男排汗快乾格紋長袖襯衫 - PRO CAM-FIS Description: 品牌:PRO CAM-FIS;分類:男裝上衣 / 男裝上衣-排汗快乾系列;顏色:深灰色;尺寸:L
Q男排汗快乾格紋長袖襯衫屬於哪個類別?A男排汗快乾格紋長袖襯衫屬於男裝上衣類別。 -
-
語意近重複(被 Stage C 拒絕) 直接問答來源素材(點擊查看完整內容)
-
• 產品:男排汗快乾抗UV格紋長袖襯衫(S-XL) prod_697842
男排汗快乾抗UV格紋長袖襯衫(S-XL) Summary: 男排汗快乾抗UV格紋長袖襯衫(S-XL) - PRO CAM-FIS Description: 品牌:PRO CAM-FIS;分類:男裝上衣 / 男裝上衣-排汗快乾系列;顏色:深藍色;尺寸:M
Q男排汗快乾抗UV格紋長袖襯衫是什麼品牌?A這款男排汗快乾抗UV格紋長袖襯衫的品牌是 PRO CAM-FIS。原因- semantic duplicate of "男排汗快乾格紋長袖襯衫屬於哪個類別?" (cosine=0.823 ≥ 0.8)
-
-
語意近重複(被 Stage C 拒絕) 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:男排汗快乾抗UV格紋長袖襯衫(S-XL) prod_697842
男排汗快乾抗UV格紋長袖襯衫(S-XL) Summary: 男排汗快乾抗UV格紋長袖襯衫(S-XL) - PRO CAM-FIS Description: 品牌:PRO CAM-FIS;分類:男裝上衣 / 男裝上衣-排汗快乾系列;顏色:深藍色;尺寸:M
Q男排汗快乾抗UV格紋長袖襯衫的品牌是什麼?A這款男排汗快乾抗UV格紋長袖襯衫的品牌是 PRO CAM-FIS。原因- semantic duplicate of "男排汗快乾格紋長袖襯衫屬於哪個類別?" (cosine=0.833 ≥ 0.8)
-
-
語意近重複(被 Stage C 拒絕) 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 產品:男排汗快乾抗UV格紋長袖襯衫(S-XL) prod_697842
男排汗快乾抗UV格紋長袖襯衫(S-XL) Summary: 男排汗快乾抗UV格紋長袖襯衫(S-XL) - PRO CAM-FIS Description: 品牌:PRO CAM-FIS;分類:男裝上衣 / 男裝上衣-排汗快乾系列;顏色:深藍色;尺寸:M
Q男排汗快乾抗UV格紋長袖襯衫品牌是什麼?A品牌是 PRO CAM-FIS。原因- semantic duplicate of "男排汗快乾格紋長袖襯衫屬於哪個類別?" (cosine=0.838 ≥ 0.8)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答來源素材(點擊查看完整內容)
-
• 產品:11'W KORAL 芋頭黃-S prod_666826
11'W KORAL 芋頭黃-S Summary: 11'W KORAL 芋頭黃-S - TEVA Description: 品牌:TEVA;分類:鞋類 / 休閒鞋;顏色:TV;尺寸:05
Q11'W KORAL 芋頭黃-S 提供的尺寸是什麼?A11'W KORAL 芋頭黃-S 提供的尺寸為 05。原因- chat-realism: sku_prefix_leak (The question contains a bare internal SKU prefix '11'W KORAL', which is not typical for a real customer inquiry.)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:11'W KORAL 芋頭黃-S prod_666826
11'W KORAL 芋頭黃-S Summary: 11'W KORAL 芋頭黃-S - TEVA Description: 品牌:TEVA;分類:鞋類 / 休閒鞋;顏色:TV;尺寸:05
Q11'W KORAL 芋頭黃-S 有什麼尺寸?A11'W KORAL 芋頭黃-S 提供的尺寸為 05。原因- chat-realism: sku_prefix_leak (The question contains a bare internal SKU prefix '11'W KORAL', which is not typical for a real customer inquiry.)
-
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答 第 3 次嘗試來源素材(點擊查看完整內容)
-
• 產品:11'W KORAL 芋頭黃-S prod_666826
11'W KORAL 芋頭黃-S Summary: 11'W KORAL 芋頭黃-S - TEVA Description: 品牌:TEVA;分類:鞋類 / 休閒鞋;顏色:TV;尺寸:05
Q11'W KORAL 芋頭黃-S 提供的尺寸是多少?A11'W KORAL 芋頭黃-S 提供的尺寸是 05。原因- chat-realism: sku_prefix_leak (The question contains a bare internal SKU prefix '11'W KORAL', which a real customer would not include.)
-
-
Judge LLM 拒絕 直接問答來源素材(點擊查看完整內容)
-
• 產品:男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑 prod_672007
男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑 Summary: 男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑 - icebreaker Description: 品牌:icebreaker;分類:男裝上衣 / 男裝上衣-功能布料系列;顏色:黑;尺寸:S
Q男 Tech 圓領短袖上衣的尺寸有哪幾種?A男 Tech 圓領短袖上衣的尺寸為 S。原因- The answer states only size S, while the question asks for all available sizes.
- Judge LLM 認為答案與資料來源有事實出入
-
-
已寫入 EvalSuite 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑 prod_672007
男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑 Summary: 男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑 - icebreaker Description: 品牌:icebreaker;分類:男裝上衣 / 男裝上衣-功能布料系列;顏色:黑;尺寸:S
Q男 Tech 圓領短袖上衣的尺寸是什麼?A男 Tech 圓領短袖上衣(皇冠高峰)-JN150- 黑的尺寸為S。 -
-
語氣不像真人 chat(被 Stage E 拒絕) 直接問答來源素材(點擊查看完整內容)
-
• 產品:Thermolite 仕女保暖外套 藍色 XL prod_709853
Thermolite 仕女保暖外套 藍色 XL Summary: Thermolite 仕女保暖外套 藍色 XL - PRO CAM-FIS Description: 品牌:PRO CAM-FIS;分類:服飾類 / 女外套
QThermolite 仕女保暖外套品牌是什麼?A品牌是 PRO CAM-FIS。原因- chat-realism: vague_meta (The question is vague and asks about the brand in a way that doesn't reflect a typical customer's inquiry.)
-
-
已寫入 EvalSuite 直接問答 第 2 次嘗試來源素材(點擊查看完整內容)
-
• 產品:Thermolite 仕女保暖外套 藍色 XL prod_709853
Thermolite 仕女保暖外套 藍色 XL Summary: Thermolite 仕女保暖外套 藍色 XL - PRO CAM-FIS Description: 品牌:PRO CAM-FIS;分類:服飾類 / 女外套
QThermolite 仕女保暖外套的品牌是什麼?A這款外套的品牌是 PRO CAM-FIS。 -