NVIDIA今日宣布推出第四代NVIDIA DGX系統(tǒng),這是全球首個基于全新NVIDIA H100 Tensor Core GPU的產(chǎn)品。
DGX H100系統(tǒng)能夠滿足大型語言模型、推薦系統(tǒng)和氣候科學的大規(guī)模計算需求。
每個DGX H100系統(tǒng)配備八塊NVIDIA H100 GPU,并由 NVIDIA NVLink連接,能夠在新的FP8精度下達到32 Petaflop,比上一代系統(tǒng)高6倍。
DGX H100系統(tǒng)是新一代NVIDIA DGX POD和NVIDIA DGX SuperPOD AI基礎設施的構建模塊。
新的DGX SuperPOD架構采用了一個全新的NVIDIA NVLink Switch系統(tǒng),通過這一系統(tǒng)最多可連接32個節(jié)點,總計256塊H100 GPU。
新一代DGX SuperPOD提供1 Exaflops的FP8 AI,比上一代產(chǎn)品高6倍,能夠運行具有數(shù)萬億參數(shù)的龐大LLM工作負載,從而推動AI的前沿發(fā)展。
NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:
“AI已經(jīng)從根本上改變了軟件的功能和產(chǎn)出方式。利用AI來革新自身所處行業(yè)的公司也意識到了自身AI基礎設施的重要。
NVIDIA全新DGX H100系統(tǒng)將賦能企業(yè)AI工廠,助力其從數(shù)據(jù)中提煉出我們最具價值的資源,即‘智能’。"
關鍵詞: