De mislukte Pixel 8 Gemini laat de tekortkomingen van Google's Pixel AI zien

Google verdient lof voor wat het heeft bereikt met zijn AI-inspanningen op de Pixel-lijn smartphones. Vanaf het begin heeft het bedrijf de Pixel-lijn gedefinieerd aan de hand van de AI-mogelijkheden, met een duidelijke visie op waar smartphones naartoe gaan en hoe AI de gebruikerservaring kan verbeteren. Of het nu ging om de introductie en daaropvolgende popularisering van computationele fotografie of slimme functies zoals het screenen van oproepen, het bedrijf heeft het voortouw genomen in hoe AI gebruikt kan worden om smartphones nog slimmer te maken.

Het is nu echter overduidelijk dat het bedrijf echt is gestruikeld met het nieuws van afgelopen week dat de Pixel 8, die vorig jaar oktober werd gelanceerd, geen van de twee Pixel 8's kan ondersteunen Gemini generatieve AI-gebaseerde modellen. Het moge duidelijk zijn dat OpenAI weliswaar het leiderschap op het gebied van AI van Google heeft afgepakt, maar dat zijn AI-software nog steeds zeer concurrerend is. Het probleem ligt hier bij wat Google zelf heeft omschreven als "hardwarebeperkingen."

De Pixel 8 is uitgerust met dezelfde Tensor G3 chip die op de Pixel 8 Pro zit, maar waar die 12 GB RAM heeft, zit de Pixel 8 vast aan slechts 8 GB RAM, wat in dit geval de oorzaak lijkt te zijn van de bottleneck in het systeem. Dit is nog steeds enigszins verrassend, aangezien de Gemini Nano in twee modelgroottes wordt geleverd; één met slechts 1,8 miljard parameters en de andere met 3,6 miljard parameters. Het is onduidelijk welk van de twee modellen op de Pixel 8 Pro draait, maar het kan in ieder geval Google's eerste mobiele LLM op het apparaat ondersteunen.

Wat betreft AI-modellen op het apparaat zijn beide modellen echter relatief bescheiden. Qualcomm, die net een nieuwe AI Hub met meer dan 75 AI-modellen die compatibel zijn met hun Snapdragon-chips, heeft benadrukt dat hun Snapdragon 8 Gen 3 aI-modellen tot 10 miljard parameters kan ondersteunen. Zelfs de Snapdragon 8 Gen 2 kan AI-modellen tot 7 miljard parameters ondersteunen.

Dit is om twee redenen belangrijk. Ten eerste, hoe groter de parameters, hoe geavanceerder en nauwkeuriger het model. Ten tweede laat het zien dat het niet alleen systeem-RAM is waar de Pixel 8 onder lijdt, maar dat de Tensor G3, zoals we eerder hebben onderzocht eerder onderzochtverre van de AI-kampioen die Google's marketing ons wil doen geloven. Google heeft de Pixel-serie gepromoot als een serie die draait om AI en heeft de Tensor verdedigd voor zijn gebrek aan echte prestaties, onder het voorwendsel dat echte prestaties minder belangrijk zijn dan AI-capaciteiten.

Natuurlijk gaan AI-capaciteiten en chipprestaties hand in hand, vooral als het gaat om de grootte van grote taalmodellen (LLM's) en grote multimodale modellen (LMM's). Google kon wegkomen met de tekortkomingen van de Tensor omdat het tot nu toe kleinere modellen voor machinaal leren gebruikte. Hierdoor kon Google sommige Pixel-fans laten denken dat zijn chips op de een of andere manier speciaal "getuned" waren voor AI en dat hun prestaties in benchmarks er niet toe doen - nieuwsflits - dat doen ze wel.

LLM's en LMM's vereisen de volledige verwerkingskracht die een chip te bieden heeft, waarbij de neurale kern fungeert als een versneller waarbij zowel de CPU als de GPU volledig worden gebruikt om modellen voor machinaal leren en deep learning op het apparaat te verwerken. Hoe krachtiger de chip over de hele linie, hoe beter deze AI-modellen met miljarden parameters werken. Het is geen toeval dat de Snapdragon 8 Gen 3 de Tensor G3 in benchmarks verslaat en ook veel grotere AI-modellen on-device kan verwerken.

Dit is waarom, zoals we ook hebben benadruktgoogle gedwongen om een aantal van de nieuwe generatieve AI-functies die beschikbaar zijn voor gebruikers van de Pixel 8 Pro naar de Google Cloud te brengen voor verwerking buiten het apparaat. De Tensor G3 is gewoon niet "up to snuff" en de 8 GB RAM van de Pixel 8 is dat ook niet.

Met het laten vallen van Qualcomm's Snapdragon-chips om zijn eigen Tensor-chips te maken, wilde Google volgens eigen zeggen chips maken die "kunnen bijhouden" met zijn AI-software-inspanningen"met zijn AI-software-inspanningen. Het is duidelijk dat dit doel op dit moment in duigen valt, vooral door dit laatste fiasco met de Pixel 8 Gemini. Amper vijf maanden na de lancering kan het de Gemini Nano niet bijhouden - ook al is het ook een relatief klein model met 1,8 miljard parameters. Aan de andere kant is de Pixel 8 Pro, die Gemini Nano wel op het apparaat kan draaien, nog steeds gedwongen om veel nieuwe generatieve AI-functies naar de cloud te sturen.

Het maakt ook een aanfluiting van Google's aankondiging bij de lancering van de Pixel 8-serie dat de telefoons 7 jaar lang software-updates zouden krijgen. We zijn nog niet eens halverwege hun eerste volledige releasejaar en de Pixel 8 is niet in staat om zijn stabiele partner bij te houden. Hoewel het een prijzenswaardig doel is, is de realiteit dat het niet al te veel jaren zal duren voordat de Pixel 8 en Pixel 8 Pro OS "updates" grotendeels beperkt zullen blijven tot beveiligingspatches en andere systeemtweaks. Omdat AI de bestaansreden is van de Pixel-serie, zijn de twee apparaten zelfs nu nog niet goed in staat om te gaan met de nieuwste AI-functies van Google.

Google heeft voor het ontwerp, de ontwikkeling en de fabricage samengewerkt met Samsung LSI en Samsung Foundry. Tot nu toe was dit hun achilleshiel, omdat deze chips last hadden van inefficiëntie en oververhitting door stroomlekkage en verpakkingsproblemen. Dit heeft het prestatiepotentieel van hun onderliggende Arm-gebaseerde architectuur beperkt in termen van piek- en langdurige prestaties.

Echter, het schijnbaar succes van de Exynos 2400 in de Galaxy S24 en Galaxy S24+ modellen dankzij node-verfijningen en het gebruik van een nieuwe fan-out wafer-level packaging (FOWLP), belooft veel goeds voor de Tensor G4. Deze chip zal zijn weg vinden naar de komende Pixel 9-serie later dit jaar, terwijl Google zijn eerste volledig op maat gemaakte chip zal leveren, de Tensor G5, die gefabriceerd zal worden door het meer gerenommeerde TSMC.

Dit is natuurlijk een schrale troost voor bezitters van een Pixel 8. Niet alleen missen zij de generatieve AI-functies die voorbehouden zijn aan bezitters van een Pixel 8 Pro, ze kunnen niet eens proeven van Gemini Nano. De Pixel 8 is nog steeds een solide telefoon uit het middensegment, maar de huidige - en zelf veroorzaakte - tekortkomingen van Google op het gebied van Pixel AI worden echt in de schijnwerpers gezet.