產出 #195

env=production · Fandora 朵拉小幫手 (548039ab-7bee-4f15-95dd-cdaca4af1948) · eval_kind=mixed_qa

已完成
已寫入
10 / 10
通過驗證
10
場景覆蓋
1 / 8
總成本
$0.0101
Tokens
↑75547 / ↓3225
MISSED
7 個 scenario 未被任何 case 涵蓋:7537, 370, 1274, 1578, 1579, 373, 7350。可以重新派發、增加 N 來補。
SUITE
✅ 已寫入 EvalSuite auto-548039ab-r1-053958727
案例明細(13 筆 — 含已寫入、被拒、retry 軌跡)
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 知識:頁面顯示缺貨但商品頁還可以下單怎麼辦? know_328954
      Q: 頁面顯示缺貨但商品頁還可以下單怎麼辦?
      A: 這可能是由於系統資料同步有短暫延遲。
      若您在結帳時系統提示庫存不足,則以結帳當下的庫存狀態為準。
      建議您可重新整理頁面,或聯繫訂單專員確認。
    Q
    頁面顯示缺貨,這樣能下單嗎?
    A
    這可能是由於系統資料同步有短暫延遲。若您在結帳時系統提示庫存不足,則以結帳當下的庫存狀態為準。建議您可重新整理頁面,或聯繫訂單專員確認。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:皮諾丘 prod_1056997
      皮諾丘
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    皮諾丘需要等多久出貨?
    A
    需要等候 7 - 16 個工作天,請留意出貨通知。
  • 語氣不像真人 chat(被 Stage E 拒絕) 直接問答
    來源素材(點擊查看完整內容)
    • • 工具:search_knowledges 21
      search_knowledges (search_knowledges)
      
      Hybrid search (BM25 + vector) across KNOWLEDGE sources only (knowledge, doc_knowledge, link, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
    Q
    每個地區需要生成什麼 BM25 關鍵字?
    A
    每個地區需要生成不同的 BM25 關鍵字,以便進行混合搜尋(BM25 + 向量)。
    原因
    • chat-realism: internal_role_title (提到 'BM25' 關鍵字的問題顯示出內部角色的專業術語,顯然不是一般顧客會使用的語言。)
  • 其他 直接問答 第 2 次嘗試
    來源素材(點擊查看完整內容)
    • • 工具:search_knowledges 21
      search_knowledges (search_knowledges)
      
      Hybrid search (BM25 + vector) across KNOWLEDGE sources only (knowledge, doc_knowledge, link, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
    Q
    每個地區需要生成什麼 BM25 關鍵字?
    A
    每個地區需要生成 3 個多樣的向量查詢和對應的 BM25 關鍵字。
    原因
    • duplicate (scenario, question)
  • 其他 直接問答 第 3 次嘗試
    來源素材(點擊查看完整內容)
    • • 工具:search_knowledges 21
      search_knowledges (search_knowledges)
      
      Hybrid search (BM25 + vector) across KNOWLEDGE sources only (knowledge, doc_knowledge, link, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
    Q
    每個地區需要生成什麼 BM25 關鍵字?
    A
    每個地區需要生成多樣化的 BM25 關鍵字,以確保混合搜尋的效果最佳。
    原因
    • duplicate (scenario, question)
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 對話流程:知識與產品查詢 7372
      知識與產品查詢
      
      ## 1. 觸發條件
      - 通用查詢觸發(優先級最高 - ABSOLUTE PRIORITY):
                          - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                          - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                          - Short queries under 10 characters
                          - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
      活動相關:
                          - 活動/報名/參加
                          - 優惠/折扣/促銷
                          - 抽獎/贈品/獎品
      公司資訊相關:
                          - 粉絲團/粉專/FB/Facebook/臉書
                          - Instagram/IG/社群/社群媒體
                          - 官網/網站/官方網站
                          - LINE/Line官方帳號
                          - Youtube/YT/影片/頻道
                          - 公司/品牌/關於我們
      服務相關:
                          - 服務時間/營業時間/上班時間
                          - 聯絡方式/電話/信箱/地址
                          - 退換貨/退款/退費
                          - 保固/維修/售後
                          - 配送/運費/到貨時間
                          - 付款方式/分期/優惠
                          - 會員/積分/紅利
                          - 發票/收據/證明
      政策相關:
                          - 政策/規定/條款
                          - 隱私/個資/資料
                          - 安全/保障/保護
                          - 責任/義務/權利
      技術問題:
                          - 無法/不能/不行
                          - 錯誤/異常/問題
                          - 當機/卡住/慢
                          - 登入/註冊/密碼
                          - 設定/安裝/使用
      產品使用方式:
                          - 怎麼用/如何使用/使用方法
                          - 使用方式/操作方式/使用步驟
                          - 安裝/設定/配置
                          - 第一次使用/新手使用/初次使用
                          - 使用技巧/使用建議/使用訣竅
              ...
    Q
    問號的查詢會怎樣處理?
    A
    任何包含問號的查詢都會立即觸發知識與產品搜尋。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:廢物星駐地球大使 prod_1069772
      廢物星駐地球大使
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    廢物星駐地球大使提前完工會怎樣?
    A
    如果廢物星駐地球大使提前完工,將會提早開始出貨,請留意出貨通知。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:貓插畫27 prod_1057941
      貓插畫27
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    貓插畫27的製作需要等多久?
    A
    貓插畫27的製作需等候7到16個工作天,若商品提前完工,將會提早開始出貨,請留意出貨通知。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:銀文鳥大頭 prod_1056615
      銀文鳥大頭
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    銀文鳥大頭是訂製商品嗎?
    A
    銀文鳥大頭是訂製商品。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:囂搞大補帖 prod_943533
      囂搞大補帖
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    囂搞大補帖出貨通知要注意什麼?
    A
    囂搞大補帖需要等候 7 - 16 個工作天出貨,請留意出貨通知,若商品提前完工,將會提早開始出貨。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:國王企鵝 prod_941255
      國王企鵝
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    國王企鵝出貨通知要怎麼留意啊?
    A
    此為訂製商品,需等候 7 - 16 個工作天,如商品提前完工,將會提早開始出貨,請留意出貨通知。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:2B or not 2B prod_1070004
      2B or not 2B
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    2B or not 2B 要等多久?
    A
    此為訂製商品,需等候 7 - 16 個工作天。
  • 已寫入 EvalSuite 直接問答
    來源素材(點擊查看完整內容)
    • • 產品:大白兔的呆萌馴鹿大頭 prod_1069175
      大白兔的呆萌馴鹿大頭
      
      Summary: 此為訂製商品,需等候 7 - 16 個工作天, 如商品提前完工,將會提早開始出貨,請留意出貨通知。
    Q
    大白兔的呆萌馴鹿大頭提前完工嗎
    A
    如果大白兔的呆萌馴鹿大頭提前完工,將會提早開始出貨,請留意出貨通知。