重點摘要
- RAG 的意思是 AI 先從公司文件中找出相關段落,再根據這些段落作答。
- 它能減少憑空捏造的答案,並可為每個答案標示來源。
- 效果取決於文件品質、文件如何分段,以及存取權限如何控制。
不少企業 AI 工具使用一種稱為「檢索增強生成」(RAG)的技術。管理層無須了解工程細節,但明白當中概念,有助評估供應商及專案。
三個步驟的概念
- 建立索引:把公司文件分段,並以可搜尋的形式儲存。
- 檢索:有人發問時,系統找出最可能包含答案的段落。
- 生成:AI 根據這些段落撰寫答案,最好並附上引用。
為何重要
一般的 AI 模型根據訓練時學到的內容作答,對貴公司而言可能已過時或不正確。RAG 讓答案建基於公司最新的政策、產品資料或合約,並讓使用者點擊查看來源。
要做得好需要什麼
- 整齊、最新的文件,刪除重複及舊版本。
- 合理分段,讓段落保留上下文,例如表格連同標題。
- 存取權限控制,使用者只能檢索獲准查閱的內容。
- 以真實問題測試,並設立修正錯誤答案的程序。
何時使用
知識助理、以政策為本的客戶服務、合約及文件搜尋,以及任何答案必須反映公司自身資料的工作,都適合使用 RAG。純粹草擬或腦力激盪則不需要。可參考建立公司內部的 AI 知識助理。