安全又可控!善用 Google Distributed Cloud 在地端打造企業專屬的 AI 模型

近年來,生成式 AI 市場規模以每年 3 至 4 成的成長速度發展,越來越多企業不只將生成式 AI 作為個人或部門使用,而是開始納入整體營運流程中。許多企業礙於資料機密性、法規遵循以及低延遲等需求而選擇不採用雲端大型語言模型,但是要在地端訓練自家 AI 模型,往往需投入龐大資金來建置 GPU 及機房相關設施與軟硬體系統。

對此,Google 於今年 Cloud Next 大會上宣布愈趨成熟的 Google 分散式雲端 (Google Distributed Cloud, GDC) 服務,可以作為企業兼顧資安與創新的解方之一。此服務是一個結合軟、硬體且全代管的解決方案,讓企業在完全無連網的實體隔離環境執行 GCP 系統,其中也包括在 Vertex AI 上部署最新推出的開源輕量模型 Gemma 2,助攻企業善用雲地混合架構擁抱最新 AI 技術。近期,Google 也宣布在其雲端服務正式推出 Google Distributed Cloud 網路隔絕設備,將 Google 的雲端和 AI 功能帶入邊緣環境,且設備可以裝載在保護箱中方便攜帶,也可安裝在客戶專有的本機作業環境。

Google Distributed Cloud 網路隔絕設備六大特色

一、美國國防部影響等級 5(IL5)認證

據 Google 官方分享,此設備已獲得影響等級 5(Impact Level 5)認證,這是對非機密但敏感資訊的最高安全控管和保護級別。

二、進階 AI 功能

客戶可以利用 Google Distributed Cloud 網路隔絕設備的內建 AI 解決方案,像是翻譯、語音、以及光學字元辨識(OCR),來提升關鍵任務應用程式的效能。例如,企業可以使用 OCR 和翻譯功能掃描並翻譯不同語言的文檔,方便存取和理解。

三、完全隔離

Google Distributed Cloud 網路隔絕設備不需要連線至 Google Cloud 或是公開網際網路,即可運作。且其在斷網環境中仍可維持運作提供完整功能,確保所管理的基礎架構、服務和 API 安全無虞且完全隔離。適合企業處理敏感資料,且能同時滿足嚴格的法規遵循和主權規範。

四、整合式雲端服務

Google Distributed Cloud 網路隔絕設備同時提供基礎架構即服務(IaaS)功能,如運算、網路和儲存空間,以及資料移轉和資料分析技術等 Google Cloud 服務。

五、完善資料安全

Google Distributed Cloud 網路隔絕設備具有強大的安全功能,如加密、資料隔離、防火牆和安全啟動等,以保護敏感資訊。除了已通過 ISO 27001 與 SOC2 合規性認證外,此服務也將 Palo Alto Networks 的威脅防禦技術嵌入到 GDC 架構中,能檢查南北向的流量以保護 GDC 中的工作負載。

六、堅固耐用的可攜式設計

Google Distributed Cloud 網路隔絕設備專為承受惡劣環境條件而設計,包括極端溫度、衝擊和震動。其設計符合嚴格的認證要求,如 MIL-STD-810H 軍規認證,確保設備即使在困難重重的使用環境,也能穩定運作。

Google Distributed Cloud 支援多種開源 AI 模型

Google Cloud 目前正在逐步讓企業透過分散式雲端啟用各種開源 AI 模型,使得企業可以透過 GDC 輕鬆從本地端快速找到最相關數據,大幅提升員工作業效率及數據可取得性。近期最新應用是一套由 Google 最先進的 Gemma 2 模型所打造的生成式 AI 搜尋及檢索增強生成 (RAG) 解決方案。以下實際舉例產業應用:

以某家提供金融業相關應用的資服業者 P 公司為例,當該公司收到來自國外客戶所提供的法規遵循文件,想了解自家公司是否符合該法規的資安要求。首先可以將相關法規紙本文件上傳該 AI 搜尋解決方案,系統可以直接辨識外文文件並翻譯成本地語言,接著用戶可使用自然語言詢問 P 公司的系統規格文件內容是否符合該文件法規,該AI 搜尋系統能直接於 P 公司本地端搜尋資料、進行比對,並具體回答哪些條文尚未符合規範,能大幅降低人為比對法規的成本與時間。

此 AI 搜尋解決方案透過 Vertex AI 提供 LLM 服務,並利用預先訓練的 API (語音轉文字、翻譯和 OCR 光學字元辨識)來擷取資料。而 AlloyDB Omni pgvector 擴充模組則是用於向量資料庫,也提供 Elasticsearch 等替代方案選項。企業也可選擇將此解決方案部署在 GDC 實體隔離 (air-gapped) 的環境中。Google 官方表示將於 2024 年第二季提供預覽版。

GDC 生成式 AI 搜尋套裝解決方案系統架構圖。此 AI 搜尋系統是一個完整的生成式 AI 搜尋及檢索增強生成 (RAG) 的解決方案,搜尋以及生成回應所運用到的知識是來自同一個訓練的模型。
icon/enlarge

Google Distributed Cloud 多項功能升級

GDC 架構設計有助於確保嚴格的資料落地與安全性要求,並持續增強平台功能,提供更進階的防護。以下是 GDC 平台最新推出 5 項重點功能更新:

  1. GDC 沙盒服務 (GDC Sandbox):讓企業與合作夥伴能在 Google Cloud 環境中去建置及測試專為 GDC 設計的服務,不需要另外安排實體隔離的硬體環境。
  2. GDC 機櫃 (GDC racks):專為 AI 及通用運算工作負載進行最佳化的機櫃,具強大的靈活性,可在部署中選擇網路或儲存最佳化的節點。
  3. GDC 儲存更具靈活性 (GDC storage flexibility):GDC 現可讓企業的運算與儲存各自獨立,以支援大型分析或 AI 工作負載。根據企業工作負載需求,可以選擇區塊儲存、檔案儲存或物件儲存。
  4. 系統遭攻擊或失效時的持續運作能力 (Survivability enhancements):GDC 支援長達 7 天的斷網連接模式,以及一套離線管理功能,以幫助確保部署和工作負載在斷開網路時可以存取和運作。
  5. 平台可支援 API 管理服務 ApigeeGDC 上的 Apigee 讓企業能夠按照 AI 工作負載所需的規模來管理和保護 API。

而 Google Cloud 也將繼續與 NVIDIA 合作,提供最新一代的 GPU,使得企業在所需的環境運行 AI 工作負載。Google 官方表示,一款配備節能 NVIDIA L4 Tensor Core GPU 的 Google Distributed Cloud 伺服器也於近日推出上市,適用於不需要高可用性的使用情境,可以將單一伺服器部署為獨立設備;另外還有配備 NVIDIA H100 Tensor Core GPU 的 AI 優化伺服器,兩款 AI 伺服器可協助企業加速建置 AI 創新落地發展。

攜手專業技術夥伴,加速您的數位轉型旅程

您的企業正在評估導入雲地混合架構嗎?歡迎聯繫 CloudMile 萬里雲,將有專人免費為您諮詢,助您打造兼顧資安合規、善用雲端資源的環境。

訂閱 CloudMile 電子報

所有 CloudMile 最新消息、產品動態、活動資訊和特別優惠,立即掌握。