NVIDIA發(fā)布256塊GraceHooper超級芯片了？你知道嗎？

100億億次性能!NVIDIA發(fā)布256塊超級芯片

AI是當前的熱點(diǎn)，現在也成了NVIDIA最受人關(guān)注的部分，今天在臺北電腦展的主題演講上，NVIDIA又發(fā)布了針對AI推出的大內存DGXGH200超算系統，配備了256個(gè)Grace Hopper芯片，總計1.8萬(wàn)CPU核心，144TB內存，相比之前漲了500倍。

AI運算對內存容量的要求更高，所以DGX GH200通過(guò)最新的NVLink、NVLink Switch等技術(shù)連接了256塊Grace Hooper超級芯片，實(shí)現了極為夸張的性能及內存。

Grace Hooper我們之前報道過(guò)，這是一塊CPU+GPU合體的超級芯片，CPU是NVIDIA自研的72核處理器，Neoverse V2內核，擁有480GB LPDDR5內存，512GB/s帶寬。

GPU部分是H100，FP64性能34TFLOPS，但更強的是INT8性能，AI運算能力達到了3958TFLOPS，帶96GB HBM3內存。

GH200總計有256塊Grace Hooper芯片，因此總計18432個(gè)CPU核心，144TB HBM3內存，AI性能達到了1 exaFLOPS，也就是100億億次。

這是什么概念，當前最強的TOP500超算也就是百億億次性能，只不過(guò)這個(gè)性能是HPC計算的，NVIDIA的是百億億次AI性能。

為了讓256個(gè)超級芯片互聯(lián)，GH200還使用了256塊單口400Gb/s InfiniBand互聯(lián)芯片，256個(gè)雙口200Gb/s InfiniBand芯片，還有96組L1 NVLink、36組L2 NVLink開(kāi)關(guān)等等，設計非常復雜。

NVIDIA表示，谷歌、Meta及微軟是首批獲得DGX H200系統的公司，后續他們還會(huì )開(kāi)放給更多客戶(hù)，運行客戶(hù)定制。

不過(guò)DGX H200還不是最強的，NVIDIA今年晚些時(shí)候會(huì )推出名為NVIDIA Helios的AI超算系統，由4組GH200組成，總計1024個(gè)Grace Hooper超級芯片，576TB HBM內存。

標簽： nv是什么品牌 NV是哪家公司 nv是什么