企業導入 AI 要注意哪些資安問題？8 項檢查清單

8 項 AI 資安檢查清單

風險	檢查重點
1. 資料外流	提問與文件是否會送到外部模型供應商？是否會被用於模型訓練？
2. 權限失控	AI 能取用的知識庫是否依角色設定？撤權是否立即生效？
3. 提示注入	匯入的文件與網頁內容是否經過淨化？使用者提問是否有檢查機制？
4. 外部工具濫用	AI 能呼叫哪些外部工具？是否需要核可、能否限制為唯讀？
5. 個人資料	匯入時能否遮蔽個資？能否設定對話保存期限與刪除紀錄？
6. 答錯無出處	回答是否附上文件出處？依據不足時是否明確說明？
7. 缺乏紀錄	是否記錄誰使用、用了哪個模型與處理經過？
8. 用量失控	能否設定額度、接近上限通知，並追查費用來源？

提示注入（prompt injection）是把惡意指令藏在使用者輸入、文件或網頁內容中，讓 AI 忽略原本的規則，例如洩漏資料或執行不該執行的操作。當 AI 能讀取外部內容並呼叫工具時，風險更高。常見對策包括淨化匯入內容、檢查提問、限制工具權限與保留操作紀錄。

NOVARK 星程方舟的 AI 治理由平台統一把關：權限控管依角色與個人設定，撤權立即生效；外部工具須先經核可，每次使用前再確認內容未被變更；知識問答附上文件、頁碼與段落；以同一個追蹤編號串聯使用者操作、模型呼叫與執行紀錄；支援全地端部署與個資遮蔽；用量可依系統與使用者設定每月額度，到頂自動暫停。

不一定。重點是確認哪些資料會送到外部、供應商如何處理資料，並依資料敏感度決定哪些工作可以使用雲端模型。

公司資料可能被貼到外部服務，且沒有權限控管與使用紀錄。建議提供受管理的企業 AI 工具，並訂定使用規範。

本文為一般性說明，實際做法請依企業規模、產業法規與資料狀況調整。NOVARK 星程方舟是 SYSTEX.AI（精誠集團人工智慧新品牌）推出的企業 AI Agent 平台，由精誠資訊股份有限公司營運。