生成式 AI 正迅速的改變你我生活，從高科技業、金融業等產業應用到虛擬主播、虛擬偶像等休閒娛樂，處處可見生成式 AI 創新應用。然而企業在投入各種大型語言模型的建置開發時，也面臨開發風險與資安威脅，例如出現 AI 幻覺、模型遭竊取、資料外洩等。對此，Google Cloud 提供最佳實踐與指引，協助企業能專注創新並有效降低風險。
近年來企業積極擁抱生成式 AI，然而要正確使用人工智慧需做好哪些前置作業準備，許多企業仍一知半解，也存有許多疑慮。根據 Google 等 5 家企業聯合委託 ISMG 的一項調查指出，有高達 80% 的企業高階主管與對於發展生成式 AI 最大的疑慮是機敏資料外洩，超過 70% 則擔憂不正確的 AI 幻覺資料（71%）；在 AI 採用方面，有 73 % 企業主管則表示會採取自建或封閉式環境，並且希望組織持續禁止使用生成式AI（38%）。
為了揭開 AI 的神秘面紗並協助企業掌握 AI 發展的正確觀念，以下是關於 AI 安全與風險必知的 5 大重點：
Prompt 濫用風險
提示詞操控
提示詞操控是一種基礎模型輸入的風險，攻擊者透過提示設計、提式工程（Prompt engineering）或提示注入（Prompt Injection）等手法來生成非預期的回應，例如使機密資料外洩。它產生帶有歧視性的回應內容可能損害企業聲譽；攻擊者藉此手法竊取機密資料並能在模型系統中執行惡意程式碼。
降低風險
有許多方法可以降低提示詞操控的風險，包括在生成前先對提示進行清理與分析，並在生成輸出後進行審查及監控，重點是要建立起程序來標記以及修正潛在有害的內容。同時基礎模型應及時安裝更新修補程式，並掌握已知威脅訊息調整修復。此外，開發、操作使用模型的員工都應接受相關風險的教育訓練。
防堵漏洞保護機敏資料
當模型在輸出中包含了未期的機密資料時就是指資料外洩（Data leakage），可能導致輸出結果不正確以及機密資料的非授權存取，去年有研究人員發現某生成式 AI 聊天機器人會不慎洩漏機密資料。如此將可能使企業違反隱私權規定、損失商業機密與智財，這些外洩的資料還可能助長資安攻擊事件的發生，以及相關事件所帶來的訴訟與裁罰。
防止模型外洩資料是一段需持續進行的過程，包括需有嚴謹的資料治理政策、存取控制與監控、進階安全措施、定期風險評估等，以層層建置一套強化 AI 風險管理實務。
保護機敏寶貴的模型設計
模型遭竊取
模型遭竊取是相當嚴重的風險，因為 AI 模型通常會囊括企業機敏資料與重要資產。攻擊者只要透過複製模型的檔案就能進行簡單的竊取攻擊，而有更多資源的攻擊者可以採取更進階的攻擊，例如查詢特定模型以確定其功能並用這些資訊來開發自己的模型。AI 模型遭竊不僅導致財務損失及聲譽損失、助長攻擊事件發生，萬一模型落入競爭對手手中還可能產生高昂的訴訟。
解決之道類似上述資料外洩風險管理，企業可透過輸出的過濾機制、存取控制、網路安全機制來偵測異常行為，並透過流水印與法律保障等方式。
強化資料控制措施是解藥
資料下毒
資料下毒是指未妥善保護模型的訓練資料，遭駭客惡意操控模型的輸出結果。訓練資料有可能在整個開發流程中遭下毒，例如攻擊者可將有毒的資料存放在網路中等模型去爬取，或是存放在訓練或微調的語料庫中。有研究指出攻擊者僅需控制 0.01% 的模型資料集就足以下毒，這表示駭客不需要具備豐富資源就能污染網際網路的資料集。
企業可透過仔細審查資料來源、執行嚴格的資料控制措施及持續監控匯入的資料來防止資料遭下毒，資料的過濾與清洗過程可以消除偏見與潛在有害的內容。此外透過對抗式訓練也能增強模型的韌性以應對資料下毒攻擊。
基礎模型設計應紮實以避免幻覺
AI 幻覺（Hallucination）
AI 幻覺是指模型生成的內容是不正確、荒謬或完全虛構的，幻覺產生的原因有很多，包括訓練資料不足夠或充滿偏見，模型過於依賴訓練資料而無法正確推斷、不準確的上下文分析、基礎模型中設計不良的強化模型以及駭客注入惡意輸入等。企業模型生成出的結果若帶有幻覺，恐將造成假訊息的傳播，一旦違反法規須背負法律責任。
要讓模型生成結果避免出現幻覺，首先是模型需要從可信賴的來源獲取資訊，並且為模型創建提示。組織也應該建立事實查核以及驗證模型生成內容的流程，尤其是有產出內容具高風險時。同時在流程中需適當結合人力監察以消除偏見，特別是透過關鍵業務或敏感資料而產出生成的結果。
Google Cloud 透過多管齊下從開發到部署來實踐負責任的 AI，從大型語言模型資料集的維護保存以避免偏見或遭下毒，到訓練階段針對可能產生有害結果的情境進行壓力測試，以調整模型減少風險。在部署階段則是提供 AI 框架及評估工具，例如提供安全過濾器以協助企業減少有害內容。要了解更多企業如何準備以創建基礎模型及使用生成式 AI，請參閱此文。
參考資料：Here are 5 gen AI security terms busy business leaders should know
