Samsung en SK Hynix gaan volgens geruchten de prestaties van AI-versnellers opvoeren met de komst van de HBM4 DRAM-standaard
HBM DRAM is nog steeds duur vergeleken met de GDDR-oplossing die we geïntegreerd zien in videokaarten voor consumentenmaar de prijs rechtvaardigt meestal de prestatiewinst. Daarom wordt HBM voorlopig geleverd bij HPC- en AI-versnellers. Het is ook de reden waarom de nieuwste H100-kaarten van Nvidia zo duur zijn, omdat ze HMB3E DRAM bevatten. Zuid-Koreaanse bronnen dicht bij DigiTimes beweren dat de situatie binnenkort zou kunnen veranderen met de introductie van de HBM4-standaard die de breedte van de geheugenbus verdubbelt ten opzichte van de vorige versie.
Volgens DigiTimes wordt HBM4 de belangrijkste upgrade in de geschiedenis van HBM DRAM, omdat het de breedte van de stapelbus zal vergroten van 1024-bit naar 2048-bit. De huidige HBM3-standaard heeft ~9 GT/s per chip, wat leidt tot een piekbandbreedte van 1,15 TB/s voor alle stacks. Als de HBM4-standaard hetzelfde aantal stacks behoudt, zou de piekbandbreedte in wezen 2,30 TB/s kunnen bereiken.
Neem de Nvidia H100bijvoorbeeld. Deze kaart heeft zes 1024-bit HBM3E known good stack dies (KGSD's) die samen een 6144-bit interface vormen. Vanwege zorgen over de toegenomen moeilijkheid om geheugenstacks met meer dan 1.024 door siliciumvias te produceren, Samsung en SK Hynix moeten bewijzen dat ze inderdaad hetzelfde aantal stacks kunnen behouden terwijl ze de busbreedte verhogen naar 2048-bit, ondanks claims van bijna 100% opbrengsten.
Bron(nen)
