地端、雲端與混合架構的差異
| 比較項目 | 地端部署 | 雲端模型 | 混合架構 |
|---|---|---|---|
| 資料流向 | 留在企業環境 | 提問內容會傳送至模型供應商 | 依資料敏感度分流 |
| 初期投入 | 需要伺服器與 GPU | 較低，依用量計費 | 介於兩者之間 |
| 模型選擇 | 可在地端運作的模型 | 供應商提供的模型 | 兩者皆可 |
| 維運 | 企業或供應商負責 | 由模型供應商負責 | 需要明確分工 |
| 適合情境 | 高敏感資料、法規要求 | 一般文書與草擬 | 多數中大型企業 |
哪些情況適合地端部署
- 處理客戶個資、財務資料、研發與製程文件等高敏感資料。
- 產業法規或客戶合約要求資料不得傳送到外部。
- 使用量大且穩定，長期來看自建算力較划算。
- 需要與廠內系統（MES、PBX 等）在內網直接串接。
評估地端企業 AI 平台的 7 個項目
- 是否支援全地端：模型、知識庫、應用與紀錄是否都能在企業環境運作。
- 模型彈性：能否依需求更換模型，換模型後治理設定是否沿用。
- 硬體評估：供應商是否能依使用人數與場景提出 GPU 與伺服器建議。
- 系統串接：能否在內網串接 ERP、MES、CRM、電話總機等既有系統。
- 權限控管：AI 取用資料是否跟著員工原本的權限，撤權是否立即生效。
- 稽核紀錄：操作、模型呼叫與執行紀錄是否完整，可供追查。
- 維運分工：安裝、更新、監控與問題排除由誰負責，是否有在地支援。
常見誤解
地端部署只解決資料外流到模型供應商的問題，並不會自動解決內部權限、提示注入或答錯的風險。即使全部在地端，仍然需要權限控管、回答附出處與完整的操作紀錄。
NOVARK 星程方舟如何協助
NOVARK 星程方舟支援全地端部署；若選用雲端模型，提問內容會傳送至該模型供應商。企業也可以設定對話保存期限、刪除紀錄，並在知識庫匯入時啟用個資遮蔽。換模型、加功能時，沿用同一套 AI 治理標準。智慧客服以地端 GPU 部署為優先。實際硬體規格依模型與使用量評估，可來信討論。
NOVARK 星程方舟 ISO 制度與稽核管理
NOVARK 星程方舟 智慧客服
NOVARK 星程方舟 智慧戰情常見問題
地端部署一定比雲端安全嗎？
地端部署可避免資料傳送到外部模型供應商，但內部仍可能有權限設定不當、操作無紀錄等風險。安全程度取決於整體治理，而不只是部署位置。
地端部署需要什麼硬體？
主要取決於模型大小、同時使用人數與回應速度要求。建議先盤點使用場景，再由供應商提出 GPU 與伺服器的規格建議。
可以部分地端、部分雲端嗎？
可以。混合架構常見的做法是敏感資料與核心系統在地端處理，一般文書工作使用雲端模型，並清楚規範哪些資料可以送到外部。
本文為一般性說明，實際做法請依企業規模、產業法規與資料狀況調整。NOVARK 星程方舟是 SYSTEX.AI（精誠集團人工智慧新品牌）推出的企業 AI Agent 平台，由精誠資訊股份有限公司營運。