Google Cloud Next 2024 懶人包！雲端年度大會亮點搶先看

Google 雲端年度大會 Cloud Next 24 於美國時間 4 月 9 日登場，生成式 AI 新功能可以說是產業關注的一大焦點。本文為您統整摘要 Google 新聞亮點，快速了解本屆雲端年度大會的產品更新。

看準企業邊緣 GenAI 需求，推出 Google Distributed Cloud 新功能

Google 於四年前的 Cloud Next’21 大會中，首次發表分散式雲端服務 Google Distributed Cloud (以下簡稱GDC)，本次大會中更強調要透過 GDC 將 AI 帶到更接近資料生成與運用的位置，包括邊緣、實體隔離（air-gapped）環境、Google 主權雲端和跨雲環境等，讓企業在任何地方啟用 AI，選擇最符合需求的環境、設定與控制選項。更新如下：

• 在 GDC 上提供 NVIDIA GPUs：我們將為採用連線與實體隔離設定的 GDC 提供 NVIDIA GPU，這兩種設定都將支援新的 GPU 型執行個體，能有效率地運行 AI 模型。
• 在 GDC 上提供 GKE 服務：領先的 AI 公司在 Google Cloud 使用的 GKE 技術 ，也將於 GDC 上提供。
• 支援 AI 模型：我們在 GDC 中支援多種開放式 AI 模型，包含 Gemma、Llama 等，為這些模型提供可在實體隔離與連線邊緣環境中執行。
• 在 GDC 上提供 Vector Search：我們也將於 GDC 導入 Vector Search 的功能，你可以針對私密與機密資料進行搜尋及資訊擷取，並享受極低的延遲時間。

同時針對非 AI 相關工作負載，Google 推出全新的運算選項 ，協助企業獲得最佳效能、確保應用程式之間的互通性，包括專為資料中心設計的第一個 ARMⓇ 架構 CPU — Google Axion，相較於目前最新一代的同等 x86 型執行個體，效能最高可提升 50%、能源效率最高則可提升 60%；Google 一般用途 VM 系列也將推出兩個全新的機器系列：N4 與 C4，並正式推出 Hyperdisk Advanced Storage Pools。

運用 Vertex AI 打造虛擬服務專員 (agents)

Google Cloud 在 Vertex AI 上提供超過 130 種自家與第三方模型，而我們也將持續提供更多種的模型，為客戶提供最豐富的模型選擇：

• Gemini 1.5 Pro：Gemini 1.5 Pro 提供兩種脈絡長度（context window）：12.8 萬與 1 百萬個 token，目前在公開預覽版階段。客戶現在可利用單一串流處理大量資訊，包含 1 小時的影片、11 小時的音訊、超過 30,000 行的程式碼，或 700,000 個以上的字詞。
• Claude 3：Anthropic 全新一系列的先進模型，目前已供客戶在 Vertex AI 上使用。
• CodeGemma：由 Google DeepMind 打造的 Gemma，是具有輕量且最先進的開放模型。而 CodeGemma，一款 Gemma 全新微調、專為程式碼生成與輔助程式碼編寫等使用場景所設計的模型，現已在 Vertex AI 開放使用。
• Imagen 2：文字轉圖像技術，具備多種圖像生成功能，協助企業打造符合品牌需求的客製化圖像。

打造 Gemini Code Assist 縮短開發時間

Gemini Code Assist 是 Google 專為企業打造的 AI 程式碼編寫輔助功能解決方案，可支援位於任何位置的私人程式碼集，無論是地端部署、GitHub、GitLab、Bitbucket 等。Gemini Code Assist  前稱為 Duet AI for Developers。主要更新如下：

• Gemini Code Assist 導入 Gemini 1.5 Pro：Gemini Code Assist 現在提供更準確的程式碼建議、更深入的洞察，以及精簡的工作流程。
• Gemini 雲端輔助功能：此功能可在應用程式生命週期各階段提供 AI 輔助功能，讓使用者更輕鬆地設計、保護、操作與進行疑難排解，並優化應用程式效能與成本效益。

結合企業資料與 AI 技術，釋放龐大 AI 潛能

生成式 AI 如何實際協助營運與應用，一直是企業在尋找的解答。對此 Google 也宣布將 Gemini 導入多項自家服務中，包括資料倉儲 BigQuery、資料庫及 BI 工具 Looker 等服務：

• Gemini in BigQuery：Gemini in BigQuery 運用 AI 技術來協助資料團隊準備、探索、分析和治理資料。此外，您將能透過新的 BigQuery Data Canvas 建立與執行資料管道，它結合自然語言與嵌入式圖表，提供了與筆記本類似的全新使用體驗，，兩種目前皆提供預覽版。
• Gemini in Database：你可輕鬆安全地將資料從舊系統中遷出，例如將資料庫轉成 AlloyDB 等現代雲端資料庫。
• Gemini in Looker：我們將推出數項預覽版的新功能，這些功能可輕鬆地將你的資料虛擬服務專員整合到你的工作流程中。我們還新增與 Google Workspace 整合的全新生成式 AI 功能，可讓您與業務資料進行對話。

運用 AI 技術提升網路資安

近期我們看到生成式 AI 被用於駭客攻擊，但如善加利用，生成式 AI 也可用於強化資安防禦。Google 本次也宣布將 Gemini 用於協助企業提升資安防護：

• Gemini in Threat Intelligence：使用自然語言技術，可以針對威脅發動者的行為提供深入的洞察。透過 Gemini，我們能夠分析數量龐大的潛在威脅惡意程式碼樣本。Gemini 擁有範圍更大的脈絡長度，能分析模組之間的互動，針對程式碼的真正意圖提供全新洞察。
• Gemini in Security Operations：全新輔助調查功能可以將自然語言轉換為啟動偵測、總結事件資料、建議採取的行動，並透過對話式聊天引導使用者在平台上操作。

善用 AI 優化的基礎架構來實現規模化

最後，生成式 AI 需要強大的基礎架構來加以支持，才可以迅速推動轉型。對此，Google 進行了多項更新：

• A3 mega：與 NVIDIA 合作，使用 H100 GPU 所開發的全新 GPU 的執行個體，現在已正式推出，其網路頻寬為 A3 執行個體的兩倍，能支援最嚴苛的工作負載。此外，Google 也同步推出 Confidential A3，客戶能夠在訓練和推理過程中更進一步保​​護敏感資料，並確保 AI 工作負載的機密性和完整性。
• NVIDIA HGX B200 與 NVIDIA GB200 NVL72：Google Cloud 表示，將於 2025 年初採用最新的 NVIDIA Blackwell 平台晶片，並提供 HGX B200 和 GB200 兩種選項。B200 專為主流模型的訓練與運作所設計，而 GB200 NVL72 則適用於上兆參數規模模型的即時大型語言模型推理和大規模訓練。
• TPU v5p：正式推出 TPU v5p，被視為是 Google 最強大、最具擴充性且最靈活的 AI 加速器，可用於訓練和推理，且每個 Pod 的運算能力為上一代的 4 倍。Google 也宣布已推出支援 TPU v5p 的 Google Kubernetes Engine（GKE）。過去一年，在 GKE 上運行的 GPU 和 TPU 使用量成長了超過 900%。
• AI 優化的儲存選項：推出 Hyperdisk ML （預覽版），這是新一代區塊儲存服務，與常見的替代方案相比，其模型載入時間加速達 3.7 倍。

生成式 AI 浪潮未減，由本次 Google Cloud Next 大會可見，新品發表方向仍以 AI 為大宗，以及如何協助企業更加便於應用 AI 技術。持續鎖定 CloudMile 部落格，我們將持續為您帶來更多 Cloud Next 24 文章。

資料來源：Google Cloud Next '24 新聞重點

最新快訊：CloudMile 萬里雲勇奪 2024 Google Cloud 年度最佳合作夥伴獎 服務影嚮力備受矚目

延伸閱讀：資安四大重點一次看！2024 資安威脅趨勢報告摘要