Nvidia Grace Hopper Superchip onthuld voor AI-gerichte werklasten
Hoewel Nvidia tijdens zijn Computex 2023 keynote niets had voor gamers, stond de presentatie bol van AI-gerichte producten. Daaronder was de Grace Hopper Superchip, een combinatie van een Grace CPU en Hopper GPU. Het zal Nvidia's DGX GH2000 supercomputer en een overvloed aan andere diensten.
De Grace CPU bevat 72 Arm Neoverse V2 CPU-kernen, tot 480 GB LPDDR5X RAM (512 GB/s geheugenbandbreedte) en een enorme 117 MB L3-cache. De bijbehorende Hopper GPU kan worden geconfigureerd met maximaal 96 GB HBM3-geheugen (tot 4 TB/s geheugenbandbreedte). Nvidia beweert dat het tot 67 TFLOPS aan FP32-prestaties biedt. Ook de meegeleverde Tensor-kernen kunnen 67 TFLOPS FP64-prestaties leveren.
Gecombineerd kan de Grace Hopper Superchip, afhankelijk van de configuratie, tot 1.000 watt aan vermogen opslurpen. De CPU en GPU zijn verbonden via een Nvlink module die werkt op 900 GB/s, 5x sneller dan PCIe-Gen 5. Dankzij geheugencoherentie hebben zowel CPU- als GPU-threads toegang tot elkaars geheugen, waardoor de nieuwe Transformer Engine 30x sneller AI-modellen kan trainen dan bestaande GPU's. In vergelijking met x86-gebaseerde oplossingen is de Grace Hopper Superchip 2,75x tot 3,9x sneller.
Apparaten aangedreven door de Grace Hopper Superchip zijn al beschikbaar in vele regio's, waaronder de Verenigde Staten en Europa. Als de recente geruchten kloppen, zouden we zelfs een verkleinde versie ervan kunnen zien bij de volgende Nintendo Switch console.
Bron(nen)
