NVIDIA地表最強超級電腦GH200 AI進化更快:還會越做越好

▲▼NVIDIA,輝達,黃仁勳。(圖/記者樓菀玲攝)

▲ NVIDIA 創辦人暨執行長黃仁勳。(圖/記者樓菀玲攝)

記者樓菀玲/台北報導

NVIDIA 創辦人暨執行長黃仁勳現身 COMPUTEX 2023,公開人工智慧超級電腦 DGX GH200,提供給追求人工智慧效能表現的企業,並提到目前 Google Cloud、Meta 和 Microsoft 將率先使用 DGX GH200 來處理人工智慧的龐大運算。

據了解,DGX GH200 使用 NVIDIA NVLink 網路技術,可將 256 個 NVIDIA Grace Hopper 超級晶片連接成一個資料中心大小的 GPU,目前 GH200 超級晶片現已全面投產,將 NVIDIA Grace CPU 與 NVIDIA H100 Tensor 核心 GPU 集合在一個模組內,相較於 2020 年推出的前代產品 NVIDIA DGX A100,GH200 的記憶體容量提升了近 500 倍。

換言之,NVIDIA 打算將用在 AI 身上的訓練資料轉移到記憶體運算,基於記憶體本身的特性與優勢,會讓未來語言模型更新的速度變得更快,以現有的 OpenAI 大型語言模型 ChatGPT 的訓練資料量來看,GH200 的運算能力將足以讓現有的語言模型以季度、月度的效率推陳出新,AI 現在能做的事情將會越做越好,且 AI 將有機會達成現在還不能做到的事情。

除此之外,NVIDIA 也推出了大型人工智慧超級電腦 NVIDIA Helios,整合了四套 DGX GH200 系統作為核心,每一台將使用 NVIDIA Quantum-2 InfiniBand 網路技術來加速資料傳輸,提升大型 AI 模型的訓練效率,NVIDIA Helios 將配備 1,024 顆 Grace Hopper 超級晶片,預計將在今年底開始運作。

黃仁勳提到 Google Cloud、Meta和Microsoft 等公司將是首批獲得 DGX GH200 超級電腦的企業,這些公司將進一步探索其在巨型 AI 工作負載領域的能力,NVIDIA 在今日的場合當中,端出了眾多新技術、產品與應用,為接下來即將到來的大量運算提供了解決方案。

分享給朋友:

※本文版權所有,非經授權,不得轉載。[ ETtoday著作權聲明 ]

相關新聞

讀者迴響

熱門新聞

最夯影音

更多

熱門快報

回到最上面