Elon Musks xAI brengt het Colossus 100k H100 trainingscluster online

De eind september 2022 gelanceerde Nvidia Hopper H100 GPU momenteel 's werelds krachtigste AI-trainingssystemen. Afgelopen weekend liep het AI-bedrijf xAI van Elon Musk voor op zijn concurrenten dankzij het Colossus 100k H100 trainingssysteem, dat een inspanning van 122 dagen vergde vanaf het begin van de implementatie tot het online gaan. Zoals de naam al doet vermoeden, gebruikt het systeem maar liefst 100.000 H100 GPU's. De belangrijkste concurrenten zijn Google (90.000), OpenAI (80.000) en Meta (70.000). Microsoft en Nvidia nemen de volgende twee plaatsen in de top in, met 60.000 en 50.000 GPU's.

Deze prestatie is echter niet genoeg voor Elon Musk, die al plannen heeft gemaakt voor de toekomst van xAI. Het techgenie wil de kracht van xAI's trainingssysteem zo snel mogelijk verdubbelen. In zijn bericht over het nieuwe Colossus AI-trainingssysteem vermeldde Musk dat "het binnen een paar maanden zal verdubbelen tot 200k (50k H200's)", zonder het doel van deze snelle uitbreiding te noemen.

In 2023, toen xAI werd opgericht, zei Elon Musk dat het doel van dit bedrijf is "om de ware aard van het universum te begrijpen," en het is nog steeds afwachten wat er uit deze hele inspanning zal komen. De H200-chips die waarschijnlijk gebruikt gaan worden in de volgende uitbreidingsgolf van xAI hebben al een opvolger, namelijk de Nvidia Blackwell. Vergeleken met de H200 heeft deze 36,2% meer top-end capaciteit en een verbetering van 66,7% in de totale bandbreedte.

Voorlopig kan xAI het Colossus AI-trainingssysteem vrij gebruiken, maar dat kan vanaf volgende maand veranderen als de Californische gouverneur Gavin Newsom de AI-veiligheidswet goedkeurt. Als u meer wilt weten over AI-veiligheid, bekijk dan eens Chris Ategeka's Safeguarding Humanity: A Comprehensive Guide to AI Safety, verkrijgbaar voor $19,99 in paperback formaat.