AI 為什麼會亂答
大型語言模型是依據語言規律產生文字，而不是查證事實。當問題超出模型知道的範圍、企業資料沒有提供足夠依據，或提問本身有誤導時，模型仍可能產生通順但錯誤的答案。
降低幻覺的 6 個做法
- 檢索增強生成（RAG）：先從企業知識庫找出相關段落，再根據這些段落回答。
- 回答附出處：列出文件、頁碼與段落，讓使用者能回查原文。
- 依據不足明確說明：找不到依據時直接說明，不讓模型自行補答。
- 檢查提問與匯入資料：過濾可疑指令，淨化匯入的文件與網頁內容。
- 限制回答範圍：依用途設定 AI 能回答的主題與能取用的資料。
- 人工覆核：涉及決策、對外說明或合規的內容，由負責人員確認。
怎麼驗證效果
- 建立測試題庫：收集常見問題與標準答案，定期測試。
- 抽樣檢查：定期抽查實際回答，確認出處是否正確對應。
- 收集回饋：讓使用者回報錯誤回答，追蹤原因並改善資料。
NOVARK 星程方舟如何協助
NOVARK 星程方舟的知識問答附上文件、頁碼與段落，方便回查原文；依據不足時明確告知，不自行補答；並搭配提問檢查與匯入資料淨化，降低不當指令與誤答風險。智慧戰情的自然語言問數也會附上資料來源與計算方式。
NOVARK 星程方舟 智慧文件管理
NOVARK 星程方舟 智慧戰情常見問題
用了 RAG 就不會有幻覺嗎？
不會完全消除。RAG 能讓回答有依據，但若檢索到錯誤或過時的文件，或模型誤解內容，仍可能出錯，因此還需要附出處與人工覆核。
怎麼判斷 AI 的回答可不可信？
先看是否附上出處，再回查原文確認內容是否一致。沒有出處、或出處與內容對不上的回答，都不應直接使用。
本文為一般性說明，實際做法請依企業規模、產業法規與資料狀況調整。NOVARK 星程方舟是 SYSTEX.AI（精誠集團人工智慧新品牌）推出的企業 AI Agent 平台，由精誠資訊股份有限公司營運。