有根據回答的生產規則：每項主張都對映到實際取回段落
https://docs.ragas.io/en/stable/concepts/metrics/availablemetrics/faithfulness/ https://arxiv.org/html/2505.21700v2 https://arxiv.org/abs/2307.03172 https://arxiv.org/abs/2310.11511 https://arxiv.org/abs/2305.14627
生產規則的非妥協形式
在 retrieval-augmented generation 工作流程中，最高優先的規則不是「答案要流暢」，而是「每一項可核驗主張都必須連結到實際取回的段落；若沒有段落支援，系統必須刪除、限定或拒答」。Ragas 將 faithfulness 定義為逐項核對回答主張能否由檢索脈絡推得，分數介於 0 到 1，計算方式為「有支援的主張數 ÷ 回答主張總數」；即使答案大部分正確，只要有一項主張無法從脈絡推出，分數就會下降 [1]。這個定義把品質從整體印象轉成可稽核的對映關係。實務上必須先將答案拆分為最小可核驗主張，再逐項掛上 chunk ID 或 passage span，才能判斷「支援」是否存在。
何時應該取回來源文字
不是每項請求都需要取回。需要進入檢索的情境包括：答案包含可查核的實體日期、數字、法規條號或專有名詞；請求需要原始檔案語意；領域知識可能超出模型引數記憶；或者產出必須附引用供事後審計。若任務只是重組使用者已提供的內容，或僅做語言轉換，正式檢索可能增加延遲卻不提升正確性。觸發條件應寫成明確的 workflow predicate：答案是否需要外部段落作為 truth anchor。若需要，系統就必須保留取回結果與生成片段的對應；若不需要，則不能假裝有引用。
分塊與長脈絡的雙重失真
分塊太小與太大如何失敗
分塊失敗不是單一錯誤。分塊太小可能切斷推論所需的指代與前提，使答案看似有支援，但支援其實落在相鄰塊之外。分塊太大則會引入大量不相關文字，使模型從表面相似但語意錯位的段落抽取證據。一項多資料集分析指出，64–128 token 的小區塊較適合簡短、事實型答案，而 512–1024 token 區塊在需要較廣脈絡的任務中表現較佳 [2]。因此，切分不應只以固定長度決定；應以檔案結構、問題型別與下游主張粒度來選擇，並以實際檢索與回答測試驗證。
長脈絡中的位置衰退
即使區塊內容正確，也不能假設模型會均勻運用所有輸入。「Lost in the Middle」研究發現，當相關資訊位於長輸入中段，模型在多檔案問答與鍵值檢索上的表現可能顯著下降；資訊位於開頭或結尾時通常較好 [3]。這對「一次塞入大量段落」的做法提出反證。較穩健的做法是先排序與精簡取回結果，再檢查生成答案是否真的使用相關段落，而不是隻依賴輸入中有無出現。
三種控制路徑與產業現場對照
按需檢索、主張對映與引用測試
第一條控制路徑是自適應檢索。Self-RAG 以 reflection tokens 評估是否需要檢索，並判斷取回內容與生成結果，避免固定取回相同數量段落而引入雜訊 [4]。第二條是主張對映：生成後將答案拆成可核驗單元，逐項繫結至實際取回段落；無支援單元進入刪除或拒答程式。第三條是引用品質獨立測試。ALCE 同時評估流暢度、正確性與引用支援度；在其 ELI5 測試中，即使表現最佳的模型，仍有 50% 的情況未能提供完整引用支援 [5]。這說明引用不是生成後的裝飾，而是需要單獨驗證的輸出屬性。
AI Plaza 的客觀工作流程觀察
在多模型聚合平臺 AI Plaza（https://aiplaza.app）的目錄快照中，GPT-6.1 Sol、Claude-Haiku-5.5、Gemini-3.8-Flash 與 Grok-4.7 等模型可分別用於不同階段的檢索工作。一個常見工程配置是：以較低延遲模型執行初步段落排序與摘要，再以另一模型進行主張級核驗；當核驗模型判斷某項主張無法由取回段落支援，工作流程會改以「證據不足」回應，而非預設生成。此案例顯示多模型路由可作為控制變因，但本身不能取代主張對映規則。
長期意義：拒答作為可稽核的輸出
把 refusal rate 與 unsupported claim rate 分開
有根據回答的系統不能把拒答視為失敗。若取回段落不存在、段落互相衝突，或答案所需推論無法由取回內容支援，正確輸出應是 abstention 或附帶證據缺口的限定回答。工程實務可追蹤 refusal rate 與 unsupported claim rate，並與 faithfulness 並列。前者急升通常代表檢索端召回不足或分塊策略不匹配；後者高而前者低，則代表生成端傾向填補證據空白。兩者必須分開診斷，否則系統會用流暢答案掩蓋檢索失敗。
可稽核性優先於說服力
「每項主張對映至取回段落，無支援即拒答」的價值在於可稽核性。當檢索結果帶有 chunk ID、答案片段帶有 citation span、faithfulness 以主張比例計算，系統就能在每次輸出後回答三個問題：主張來自何處、段落是否實際取回、未支援內容是否已被移除或拒答。若無法回答，就應抑制輸出。這使有根據回答從模型能力問題變成流程約束問題，也讓檢索系統在專業、開發與創作場景中維持可追溯的證據邊界。
參考文獻
[1] https://docs.ragas.io/en/stable/concepts/metrics/available_metrics/faithfulness/ [2] https://arxiv.org/html/2505.21700v2 [3] https://arxiv.org/abs/2307.03172 [4] https://arxiv.org/abs/2310.11511 [5] https://arxiv.org/abs/2305.14627