產出 #312

env=production · OllieTest (e67d9c8e-ff77-4223-b206-6f876a465dc7) · eval_kind=mixed_qa

已完成

已寫入

10 / 10

通過驗證

場景覆蓋

2 / 3

總成本

$0.0113

Tokens

↑78642 / ↓3207

MISSED

1 個 scenario 未被任何 case 涵蓋：1416。可以重新派發、增加 N 來補。

SUITE

✅ 已寫入 EvalSuite auto-e67d9c8e-r1-053959128。

案例明細（14 筆 — 含已寫入、被拒、retry 軌跡）

已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）
- • 知識：運費如何計算？ know_111443
```
Q: 運費如何計算？
A: 訂單滿1000元免運費，未滿則酌收80元運費。
```
Q

請問未滿 1000 元的訂單運費是多少？

A

未滿1000元的訂單需支付80元運費。
語氣不像真人 chat（被 Stage E 拒絕）直接問答

來源素材（點擊查看完整內容）
- • 工具：統一搜尋：multi-lane BM25+Vector RRF 融合（支援 5 種 source_type） 20
```
統一搜尋：multi-lane BM25+Vector RRF 融合（支援 5 種 source_type） (search_unified)

Hybrid search (BM25 + vector) with multi-lane RRF fusion across ALL source types (knowledge, product, link, doc_knowledge, doc_product, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
```
Q

統一搜尋可以處理哪些資料來源?

A

統一搜尋可以處理所有類型的資料來源，包括知識、產品、連結、文檔知識、文檔產品和視覺資料。
原因
- chat-realism: vague_meta (The question is vague and asks about company-wide capabilities rather than a specific service or feature.)
語氣不像真人 chat（被 Stage E 拒絕）直接問答第 2 次嘗試

來源素材（點擊查看完整內容）
- • 工具：統一搜尋：multi-lane BM25+Vector RRF 融合（支援 5 種 source_type） 20
```
統一搜尋：multi-lane BM25+Vector RRF 融合（支援 5 種 source_type） (search_unified)

Hybrid search (BM25 + vector) with multi-lane RRF fusion across ALL source types (knowledge, product, link, doc_knowledge, doc_product, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
```
Q

統一搜尋可以處理哪幾種類型的資料來源?

A

統一搜尋可以處理知識、產品、連結、文檔知識、文檔產品和視覺資料等 5 種類型的資料來源。
原因
- chat-realism: vague_meta (The question is vague and asks about company-wide capabilities rather than specific details.)
已寫入 EvalSuite 直接問答第 3 次嘗試

來源素材（點擊查看完整內容）
- • 工具：統一搜尋：multi-lane BM25+Vector RRF 融合（支援 5 種 source_type） 20
```
統一搜尋：multi-lane BM25+Vector RRF 融合（支援 5 種 source_type） (search_unified)

Hybrid search (BM25 + vector) with multi-lane RRF fusion across ALL source types (knowledge, product, link, doc_knowledge, doc_product, vision). MUST generate 3 diverse vector queries AND per-locale BM25 keywords.
```
Q

統一搜尋可以處理什麼資料來源?

A

統一搜尋可以處理知識、產品、連結、文檔知識、文檔產品和視覺資料等五種資料來源。

已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）

• 對話流程：知識與產品查詢 1415

知識與產品查詢

## 1. 觸發條件
- 通用查詢觸發（優先級最高 - ABSOLUTE PRIORITY）:
                    - ⚠️ CRITICAL: ANY query with "?" "嗎" "呢" "嗎?" → MUST trigger knowledge and product search immediately
                    - Question words: "如何" "怎麼" "什麼" "哪裡" "哪個" "多少" "為什麼"
                    - Short queries under 10 characters
                    - OVERRIDE RULE: Question markers ALWAYS take precedence over order triggers
- 活動相關:
                    - 活動/報名/參加
                    - 優惠/折扣/促銷
                    - 抽獎/贈品/獎品
- 公司資訊相關:
                    - 粉絲團/粉專/FB/Facebook/臉書
                    - Instagram/IG/社群/社群媒體
                    - 官網/網站/官方網站
                    - LINE/Line官方帳號
                    - Youtube/YT/影片/頻道
                    - 公司/品牌/關於我們
- 服務相關:
                    - 服務時間/營業時間/上班時間
                    - 聯絡方式/電話/信箱/地址
                    - 退換貨/退款/退費
                    - 保固/維修/售後
                    - 配送/運費/到貨時間
                    - 付款方式/分期/優惠
                    - 會員/積分/紅利
                    - 發票/收據/證明
- 政策相關:
                    - 政策/規定/條款
                    - 隱私/個資/資料
                    - 安全/保障/保護
                    - 責任/義務/權利
- 技術問題:
                    - 無法/不能/不行
                    - 錯誤/異常/問題
                    - 當機/卡住/慢
                    - 登入/註冊/密碼
                    - 設定/安裝/使用
- 產品使用方式:
                    - 怎麼用/如何使用/使用方法
                    - 使用方式/操作方式/使用步驟
                    - 安裝/設定/配置
                    - 第一次使用/新手使用/初次使用
                    - 使用技巧/使用建議/使...

你們的營業時間是什麼時候?

我們的營業時間為週一至週五，上午 9 點至下午 6 點。週末休息，若有任何問題，歡迎聯繫我們！

已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）
- • 知識：如何查詢訂單狀態？ know_111444
```
Q: 如何查詢訂單狀態？
A: 請登入會員中心點選「訂單查詢」，即可查看訂單處理進度。
```
Q

查詢訂單狀態要怎麼做？

A

請登入會員中心點選「訂單查詢」，即可查看訂單處理進度。
Judge LLM 拒絕直接問答

來源素材（點擊查看完整內容）
- • 工具：電商訂單搜尋 executor — 打 JTCG SaaS API + vendor parser 格式化 51
```
電商訂單搜尋 executor — 打 JTCG SaaS API + vendor parser 格式化 (shopline_search_orders)

Search for order details based on the information user provided.
```
Q

電商訂單搜尋怎麼使用 JTCG SaaS API?

A

電商訂單搜尋 executor 使用 JTCG SaaS API 進行操作，並透過 vendor parser 格式化數據。
原因
- The answer introduces the term 'executor' without clear support from the sources.
- The answer does not explain how to use the JTCG SaaS API, only mentions it in context.
- Judge LLM 認為答案與資料來源有事實出入
已寫入 EvalSuite 直接問答第 2 次嘗試

來源素材（點擊查看完整內容）
- • 工具：電商訂單搜尋 executor — 打 JTCG SaaS API + vendor parser 格式化 51
```
電商訂單搜尋 executor — 打 JTCG SaaS API + vendor parser 格式化 (shopline_search_orders)

Search for order details based on the information user provided.
```
Q

電商訂單搜尋要怎麼操作?

A

可以使用電商訂單搜尋 executor，透過 JTCG SaaS API 進行操作，並使用 vendor parser 格式化來搜尋訂單細節。
已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）
- • 知識：我要如何退換貨？ know_111442
```
Q: 我要如何退換貨？
A: 您可以在收到商品後7天內申請退換貨。請確保商品未使用且包裝完整。
```
Q

收到商品後幾天內可以退換貨？

A

您可以在收到商品後7天內申請退換貨。請確保商品未使用且包裝完整。
Judge LLM 拒絕直接問答

來源素材（點擊查看完整內容）
- • 工具：get_history 3
```
get_history (get_history)

Retrieve earlier conversation traces (before the recent 7 rounds). No params = condensed summaries; with trace/end_trace = full content.
```
Q

可以看到之前的對話紀錄嗎?

A

可以的，我可以檢索最近 7 輪之前的對話紀錄。你需要查看特定的內容嗎?
原因
- The answer incorrectly states that it can retrieve the last 7 rounds of conversation, while the source indicates it can retrieve earlier conversation traces, not limited to the last 7 rounds.
已寫入 EvalSuite 直接問答第 2 次嘗試

來源素材（點擊查看完整內容）
- • 工具：get_history 3
```
get_history (get_history)

Retrieve earlier conversation traces (before the recent 7 rounds). No params = condensed summaries; with trace/end_trace = full content.
```
Q

可以看之前的對話紀錄嗎?

A

可以的，系統能檢索最近 7 輪之前的對話記錄，如果你需要，也能提供更詳細的內容摘要。

已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）

• 對話流程：轉接真人客服 1414

轉接真人客服

## 1. 觸發條件
- 線上客服/轉線上客服
- 在線客服/轉在線客服
- 真人客服/轉真人客服
- 轉真人/找真人
- Direct transfer request
- Emotional escalation
- Resolution failure

轉接真人客服的 Agent 情景

## 4. 回覆規則
- Acknowledge situation
- Return transfer response in specified format

請問當我的情緒升高時，可以轉接真人客服嗎？

當客戶情緒升高時，可以要求轉接真人客服。

已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）

• 知識：狗狗不可以吃哪些東西？ know_111445

Q: 狗狗不可以吃哪些東西？
A: 巧克力、葡萄、生雞蛋、生肉類、蔥蒜，洋蔥類、骨頭類（特別是雞骨頭等小碎骨頭）、夏威夷豆，堅果類、富含酒精，酒類的食物、第八名：番茄

狗狗可以吃生雞蛋嗎？

狗狗不可以吃生雞蛋。

已寫入 EvalSuite 直接問答

來源素材（點擊查看完整內容）
- • 工具：transfer_to_human_agent 2
```
transfer_to_human_agent (transfer_to_human_agent)

Transfer to human customer service agent. Use when: 1. User explicitly requests human agent 2. AI cannot answer user's question repeatedly 3. User shows strong negative emotions 4. Issue is beyond AI capability
```
Q

什麼情況下可以轉接真人客服?

A

當用戶明確要求真人客服、AI無法重複回答用戶問題、用戶表現出強烈的負面情緒，或問題超出AI的能力範圍時，可以進行轉接。