重點摘要
- RAG 的意思是 AI 先從公司文件中找出相關段落，再根據這些段落作答。
- 它能減少憑空捏造的答案，並可為每個答案標示來源。
- 效果取決於文件質素、文件如何分段，以及存取權限如何控制。
不少企業 AI 工具使用一種稱為「檢索增強生成」（RAG）的技術。管理層毋須了解工程細節，但明白當中概念，有助評估供應商及項目。
三個步驟的概念
- 建立索引：把公司文件分段，並以可搜尋的形式儲存。
- 檢索：有人發問時，系統找出最可能包含答案的段落。
- 生成：AI 根據這些段落撰寫答案，最好並附上引用。
為何重要
一般的 AI 模型根據訓練時學到的內容作答，對貴公司而言可能已過時或不正確。RAG 令答案建基於公司最新的政策、產品資料或合約，並讓使用者點擊查看來源。
要做得好需要甚麼
- 整齊、最新的文件，刪除重複及舊版本。
- 合理分段，令段落保留上下文，例如表格連同標題。
- 存取權限控制，使用者只能檢索獲准查閱的內容。
- 以真實問題測試，並設立修正錯誤答案的程序。
何時使用
知識助理、以政策為本的客戶服務、合約及文件搜尋，以及任何答案必須反映公司自身資料的工作，都適合使用 RAG。純粹草擬或腦力激盪則不需要。可參考建立公司內部的 AI 知識助理。