近年來,生成式 AI 市場規模以每年 3 至 4 成的成長速度發展,越來越多企業不只將生成式 AI 作為個人或部門使用,而是開始納入整體營運流程中。許多企業礙於資料機密性、法規遵循以及低延遲等需求而選擇不採用雲端大型語言模型,但是要在地端訓練自家 AI 模型,往往需投入龐大資金來建置 GPU 及機房相關設施與軟硬體系統。
對此,Google 於今年 Cloud Next 大會上宣布愈趨成熟的 Google 分散式雲端 (Google Distributed Cloud, GDC) 服務,可以作為企業兼顧資安與創新的解方之一。此服務是一個結合軟、硬體且全代管的解決方案,讓企業在完全無連網的實體隔離環境執行 GCP 系統,其中也包括在 Vertex AI 上部署最新推出的開源輕量模型 Gemma 2,助攻企業善用雲地混合架構擁抱最新 AI 技術。近期,Google 也宣布在其雲端服務正式推出 Google Distributed Cloud 網路隔絕設備,將 Google 的雲端和 AI 功能帶入邊緣環境,且設備可以裝載在保護箱中方便攜帶,也可安裝在客戶專有的本機作業環境。
Google Distributed Cloud 網路隔絕設備六大特色
一、美國國防部影響等級 5(IL5)認證
據 Google 官方分享,此設備已獲得影響等級 5(Impact Level 5)認證,這是對非機密但敏感資訊的最高安全控管和保護級別。
二、進階 AI 功能
客戶可以利用 Google Distributed Cloud 網路隔絕設備的內建 AI 解決方案,像是翻譯、語音、以及光學字元辨識(OCR),來提升關鍵任務應用程式的效能。例如,企業可以使用 OCR 和翻譯功能掃描並翻譯不同語言的文檔,方便存取和理解。
三、完全隔離
Google Distributed Cloud 網路隔絕設備不需要連線至 Google Cloud 或是公開網際網路,即可運作。且其在斷網環境中仍可維持運作提供完整功能,確保所管理的基礎架構、服務和 API 安全無虞且完全隔離。適合企業處理敏感資料,且能同時滿足嚴格的法規遵循和主權規範。
四、整合式雲端服務
Google Distributed Cloud 網路隔絕設備同時提供基礎架構即服務(IaaS)功能,如運算、網路和儲存空間,以及資料移轉和資料分析技術等 Google Cloud 服務。
五、完善資料安全
Google Distributed Cloud 網路隔絕設備具有強大的安全功能,如加密、資料隔離、防火牆和安全啟動等,以保護敏感資訊。除了已通過 ISO 27001 與 SOC2 合規性認證外,此服務也將 Palo Alto Networks 的威脅防禦技術嵌入到 GDC 架構中,能檢查南北向的流量以保護 GDC 中的工作負載。
六、堅固耐用的可攜式設計
Google Distributed Cloud 網路隔絕設備專為承受惡劣環境條件而設計,包括極端溫度、衝擊和震動。其設計符合嚴格的認證要求,如 MIL-STD-810H 軍規認證,確保設備即使在困難重重的使用環境,也能穩定運作。
Google Distributed Cloud 支援多種開源 AI 模型
Google Cloud 目前正在逐步讓企業透過分散式雲端啟用各種開源 AI 模型,使得企業可以透過 GDC 輕鬆從本地端快速找到最相關數據,大幅提升員工作業效率及數據可取得性。近期最新應用是一套由 Google 最先進的 Gemma 2 模型所打造的生成式 AI 搜尋及檢索增強生成 (RAG) 解決方案。以下實際舉例產業應用:
以某家提供金融業相關應用的資服業者 P 公司為例,當該公司收到來自國外客戶所提供的法規遵循文件,想了解自家公司是否符合該法規的資安要求。首先可以將相關法規紙本文件上傳該 AI 搜尋解決方案,系統可以直接辨識外文文件並翻譯成本地語言,接著用戶可使用自然語言詢問 P 公司的系統規格文件內容是否符合該文件法規,該AI 搜尋系統能直接於 P 公司本地端搜尋資料、進行比對,並具體回答哪些條文尚未符合規範,能大幅降低人為比對法規的成本與時間。
此 AI 搜尋解決方案透過 Vertex AI 提供 LLM 服務,並利用預先訓練的 API (語音轉文字、翻譯和 OCR 光學字元辨識)來擷取資料。而 AlloyDB Omni pgvector 擴充模組則是用於向量資料庫,也提供 Elasticsearch 等替代方案選項。企業也可選擇將此解決方案部署在 GDC 實體隔離 (air-gapped) 的環境中。Google 官方表示將於 2024 年第二季提供預覽版。