雲端消息最前線：Google Cloud Next 2024 重點回顧

Google Cloud Next 在今年四月初於美國拉斯維加斯引起了轟動！從展示令人驚豔的客戶成果，到眾人引頸期盼的產品發布，Google Cloud 全面分享了 AI 將如何改變企業的工作方式。如果您錯過了精彩內容，不妨透過本篇文章及官方14分鐘亮點回顧影片來一探究竟吧！

 

Gemini for Google Cloud 縮短開發時間

Gemini Code Assist 是 Google 專為企業打造的 AI 程式碼編寫輔助功能解決方案。為支援開發人員，Google Cloud 宣布推出以下項目：

• Gemini Code Assist 導入 Gemini 1.5 Pro：這項升級提供的脈絡長度極大，達100萬個 token，甚至在最大型的專案都帶來革命性程式碼編寫方式。Gemini Code Assist 現在提供更準確的程式碼建議、更深入的洞察，以及精簡的工作流程。
• Gemini 雲端輔助功能：此功能可在應用程式生命週期各階段提供 AI 輔助功能，讓使用者更輕鬆地設計、保護、操作與進行疑難排解，並優化應用程式效能與成本效益。

Google Cloud 將 Gemini Code Assist 部署給一組 Google 內部的開發人員，發現完成一般開發工作所需的時間加快 40%，以及編寫新程式碼的時間縮短 55%。事實上，Gemini Code Assist 支援位於任何位置的私人程式碼集，無論是地端部署、GitHub、GitLab、Bitbucket，甚至是多個位置。

 

運用 Google Workspace 提升協作生產力

透過 Gemini for Workspace，企業可直接在 Gmail、Google 文件和試算表等產品中，使用內建的 AI 虛擬服務專員。而 Google Cloud 宣布推出 Gemini for Workspace 的下一波創新與功能強化，包含：

• Google Vids：這個由 AI 驅動的影片創作應用程式，結合影片創作、製作及編輯助理於一身，它可以自動生成一個分鏡圖讓您輕鬆編輯，當您選擇好風格後，它會將您的草稿與素材庫中的影音片段、圖片和背景音樂拼湊在一起。它還可以幫助您找到合適的旁白來傳遞訊息，可以選擇預設的旁白或是使用您自己的錄音。Vids 將加入其他生產力工具的行列，例如：Google 文件、Google 試算表和 Google 簡報等。它擁有簡約且易於使用的介面，讓您能安全地透過瀏覽器協作和分享工作項目。Vids 將於六月於 Workspace Labs 發布。
• AI Meetings and Messaging 外掛程式：這項協作工具提供「幫我記錄」與即時通訊摘要功能，以及支援 69 種語言(相當於 4,600 種語言組合)的即時翻譯功能，每名使用者每月只需支付 10 美元的費用。
• 全新的 AI Security 外掛程式：Workspace 管理員現在能使用專為自家機構訓練、可保護隱私的 AI 模型與資料外洩防護控制選項，來自動分類與保護機密檔案與資料。AI Security 外掛程式的價格為每名使用者每月 10 美元，並可加入到大多數 Workspace 方案中。

 

運用 AI 優化的基礎架構實現規模化

生成式 AI 需要強大的基礎架構來加以支持，才可迅速推動轉型。為了能支援堆疊中每一階層的客戶，Google Cloud 進行了多項重要改革：

• A3 mega：Google Cloud 與 NVIDIA 合作，使用 H100 GPU 所開發的全新 GPU 的執行個體，現在已正式推出，其網路頻寬為 A3 執行個體的兩倍，能支援最嚴苛的工作負載。此外，Google Cloud 也同步推出 Confidential A3，客戶能夠在訓練和推理過程中更進一步保​​護敏感資料，並確保 AI 工作負載的機密性和完整性。
• NVIDIA HGX B200 與 NVIDIA GB200 NVL72：Google Cloud 將於 2025 年初採用最新的 NVIDIA Blackwell 平台晶片，並提供 HGX B200 和 GB200 兩種選項。B200 專為主流模型的訓練與運作所設計，而 GB200 NVL72 則適用於上兆參數規模模型的即時大型語言模型推理和大規模訓練。
• TPU v5p：Google Cloud 宣布正式推出 TPU v5p，這是 Google Cloud 最強大、最具擴充性且最靈活的 AI 加速器，可用於訓練和推理，且每個 Pod 的運算能力是上一代的 4 倍。Google Cloud 也宣布支援 TPU v5p 的 Google Kubernetes Engine (GKE) 已經推出；過去一年，在 GKE 上運行的 GPU 和 TPU 使用量成長了超過 900%。
• AI 優化的儲存選項：Google Cloud 透過 Cloud Storage FUSE 和 Parallelstore 全新的快取功能，加速訓練速度，這些功能可以將資料儲存在更接近客戶的 TPU 或 GPU。Google Cloud 也推出 Hyperdisk ML (預覽版)，這是新一代區塊儲存服務，與常見的替代方案相比，其模型載入時間加速達 3.7 倍。
• 動態工作負載排程(Dynamic Workload Scheduler)的新選項：日曆模式可以協助並確保工作負載在指定時間開始執行，而彈性開始時間模式可提供最佳的經濟效益，協助客戶為複雜的訓練與推理工作有效管理資源。

Google Cloud 正致力於將 AI 帶到更接近資料生成與運用的位置，包括邊緣、實體隔離(air-gapped)環境、Google 主權雲端和跨雲環境。透過 Google Distributed Cloud (GDC)，Google Cloud 在任何地方啟用 AI ，讓您可以選擇最符合機構特定需求的環境、設定與控制選項。例如，在 26 個國家及地區營運的行動通訊服務供應商 Orange 必須確保當地資料保留在所在國家或地區。他們在 GDC 上運用 AI，以提升網絡性能及客戶體驗。

 

Google Cloud 也在今天宣布多項 GDC 的新功能，包括：

• 在 GDC 上提供 NVIDIA GPUs：Google Cloud 將為採用連線與實體隔離設定的 GDC 提供 NVIDIA GPU，這兩種設定都將支援新的 GPU 型執行個體，能有效率地運行 AI 模型。
• 在 GDC 上提供 GKE 服務：領先的 AI 公司在 Google Cloud 使用的 GKE 技術 ，也將於 GDC 上提供。
• 支援 AI 模型：Google Cloud 在 GDC 中支援多種開放式 AI 模型，包含 Gemma、Llama 等，為這些模型提供可在實體隔離與連線邊緣環境中執行。
• 在 GDC 上提供 Vector Search：Google Cloud 也將於 GDC 導入 Vector Search 的功能，您可以針對私密與機密資料進行搜尋及資訊擷取，並享受極低的延遲時間。
• 主權雲端 (Sovereign Cloud)：為符合最嚴格的法規規定，Google Cloud 提供採用完全實體隔離設定的 GDC。這個產品能在本地作業並具備完整存續能力，可由 Google 或您自行選擇的合作夥伴代管，一切完全由您掌控，並且在法規變更時，Google Cloud 也可以靈活反應，協助您快速應對。

 

雖然並非所有工作負載都屬於 AI 工作負載，但您在雲端中執行的每個工作負載都需要進行優化，且每個應用程式的技術需求也有所不同。因此，Google Cloud 推出全新且通運的運算選項 ，協助客戶獲得最佳效能、確保應用程式之間的互通性，並在達成永續發展目標的同時，也能降低成本。

• Google Axion：是 Google Cloud 專為資料中心設計的第一個 ARM 架構 CPU，相較於目前最新一代的同等 x86 型執行個體，效能最高可提升 50%、能源效率最高則可提升 60%。
• 一般用途 VM 系列也將推出兩個全新的機器系列：N4 與 C4。C3 機器系列將推出原生裸機機器類型。此外，Google Cloud 也將正式推出 Hyperdisk Advanced Storage Pools，以及更多新的產品。

 

Google Cloud 也將 Vertex AI 上的生成式 AI 靜態資料儲存的資料駐留 (data residency) 服務範圍，擴大到 11 個新的國家及地區，包含澳洲、巴西、芬蘭、香港、印度、以色列、義大利、波蘭、西班牙、瑞士和台灣。

• 此外，客戶現在使用 Gemini 1.0 Pro 和 Imagen 時，可以將機器學習的運作限制在美國或歐盟境內。
• 與去年宣布開始服務的其他 10 個國家一樣，Google Cloud 協助這些新開放的國家及地區的客戶方便控制資料的儲存位置和存取方式，讓客戶更能符合世界各地政府的監管及安全要求。

 

運用 Vertex AI 打造虛擬服務專員(agents)

Google Cloud 在 Vertex AI 上提供超過 130 種自家與第三方模型，也將持續提供更多種的模型，為客戶提供最豐富的模型選擇：

• Gemini 1.5 Pro：Gemini 1.5 Pro 提供兩種脈絡長度(context window)：12.8 萬與 1 百萬個 token，目前在公開預覽版階段。客戶現在可利用單一串流處理大量資訊，包含 1 小時的影片、11 小時的音訊、超過 30,000 行的程式碼，或 700,000 個以上的字詞。
• Claude 3：Anthropic 全新一系列的先進模型，目前已供客戶在 Vertex AI 上使用。
• CodeGemma：由 Google DeepMind 打造的 Gemma，是具有輕量且最先進的開放模型。而 CodeGemma，一款 Gemma 全新微調、專為程式碼生成與輔助程式碼編寫等使用場景所設計的模型，現已在 Vertex AI 開放使用。
• Imagen 2：這是 Google Cloud 最先進的文字轉圖像技術，具備多種圖像生成功能，協助企業打造符合品牌需求的客製化圖像。而全新的文字轉即時圖像的功能，讓行銷與創意團隊能輕易生成動畫圖像，例如 GIF 等的動畫圖像，並且配備安全篩選與數位浮水印。此外，我們也宣布推出進階相片編輯功能，包含圖像修復、圖像擴展，以及其他更多功能。
• 數位浮水印：此功能由 Google DeepMind 的 SynthID 技術支援，此功能現在起正式應用於 Imagen 2 生成的 AI 圖像中。

 

客戶若使用企業數據來增強與連結(grounding)模型，可以發揮模型最大功效並獲取更多價值。Google Cloud 以兩種方式加強 Vertex AI 的連結資訊來源能力，使其功能更加完善：

• Google 搜尋：以 Google 搜尋作為模型的資訊來源，能結合 Google 最新基礎模型的強大功能，以及存取最新、高品質資訊的能力，能夠大幅提升回應資訊的完整性與準確性。
• 您的資料：運用企業應用程式，如 Workday 或 Salesforce 中的數據作為模型基礎，並輕鬆連結至 Google 資料庫，例如：AlloyDB 和 BigQuery。

 

當您挑選了合適的模型、加以調整並連結資訊來源後，Vertex 還可以協助您部署、管理與監控模型。Google Cloud 宣布推出更多機器學習運作營運功能：

• 提示管理工具：這些工具讓您可在內建提示上進行協作，附上註解與目前狀況、追蹤變更紀錄，以及比較不同提示的回覆品質。
• 自動並排比對：Auto SxS 功能現已正式推出，可說明為何某個回應優於另一個，並提供確定性分數，有助於使用者瞭解評估的準確性。
• 快速評估功能：此功能現已推出預覽版，可協助客戶在反覆設計提示時，運用較小的資料集來快速評估模型。

最後，Vertex AI Agent Builder 整合了基礎模型、Google 搜尋和其他開發者工具，讓您輕鬆建構和部署虛擬服務專員(agent)。它提供了無程式碼代理程式生成器控制台的便利性，以及強大的連結資訊來源、編排與擴增能力，使用 Vertex AI Agent Builder，您現在可以快速地建立一系列利用 Google 搜尋和您的組織數據為基礎的生成式 AI 虛擬服務專員。

 

結合資料，釋放龐大 AI 潛能

Google Cloud 讓您可結合最佳的 AI 技術與您的企業資料，同時維持資料的隱私和安全性。Google Cloud 宣布推出全新強化功能，協助組織打造絕佳的資料虛擬服務專員：

• Gemini in BigQuery：Gemini in BigQuery 運用 AI 技術來協助資料團隊準備、探索、分析和治理資料。此外，您將能透過新的 BigQuery Data Canvas 建立與執行資料管道，它結合自然語言與嵌入式圖表，提供了與筆記本類似的全新使用體驗，，兩種目前皆提供預覽版。
• Gemini in Database：您可輕鬆安全地將資料從舊系統中遷出，例如將資料庫轉成 AlloyDB 等現代雲端資料庫。
• Gemini in Looker：Google Cloud 將推出數項預覽版的新功能，這些功能可輕鬆地將您的資料虛擬服務專員整合到您的工作流程中。Google Cloud 還新增與 Google Workspace 整合的全新生成式 AI 功能，可讓您與業務資料進行對話。

 

運用 AI 技術提升網路安全

安全虛擬服務專員可在安全性生命週期的每個階段提供協助，因此生成式 AI 有潛力扭轉局勢，讓抵禦攻擊的一方占上風。Google Cloud 安全性系列產品的創新功能可以提供更強大的安全成果，並使每個組織都能讓 Google Cloud 成為他們安全團隊一員，這些功能包括：

• Gemini in Threat Intelligence：使用自然語言技術，可以針對威脅發動者的行為提供深入的洞察。透過 Gemini，我們能夠分析數量龐大的潛在威脅惡意程式碼樣本。Gemini 擁有範圍更大的脈絡長度，能分析模組之間的互動，針對程式碼的真正意圖提供全新洞察。
• Gemini in Security Operations：全新輔助調查功能可以將自然語言轉換為啟動偵測、總結事件資料、建議採取的行動，並透過對話式聊天引導使用者在平台上操作。

本文翻譯並改寫自 Google Cloud 官方部落格。希望大家都有透過宏庭科技這篇文章獲取最新 Google Cloud 2024 雲端新知！我們期待能持續將最熱門、最前線的話題帶到您面前。