Ontwikkelaars kunnen Google's Gemini Nano AI-model nu testen op Pixel 9-apparaten

Gemini Nano is een meer gespecialiseerde, lichtgewicht versie van de bredere Gemini familie van AI-modellen. Hoewel ze allebei tot dezelfde Gemini-reeks behoren, is de Nano-versie speciaal ontworpen voor AI-taken op het apparaat, die naar eigen zeggen gesprekken efficiënter en privé maken door gegevens lokaal op het apparaat van de gebruiker te verwerken.

Google heeft Gemini Nano nu opengesteld voor experimenten op Android apparaten met behulp van zijn AI Edge SDK via AIcore. Het AI-model op het apparaat beweert geoptimaliseerd te zijn voor taken zoals tekstgeneratie en herformuleren. Na deze aankondiging krijgen ontwikkelaars de kans om AI-functies te testen zonder sterk afhankelijk te zijn van cloudresources. Er zit echter een addertje onder het gras - het zal in eerste instantie alleen beschikbaar zijn voor Pixel 9-serie apparaten.

Gemini Nano blinkt vooral uit in tekstgebaseerde AI-gebruiksgevallen zoals samenvatten, proeflezen en het slim genereren van antwoorden. De AI Edge SDK kunnen ontwikkelaars specifieke parameters zoals temperatuur, top-K bemonstering en uitvoerlengte instellen om de reacties van het model te verfijnen. Ter referentie: top-K sampling is een methode in AI-modellen die het aantal potentiële volgende woorden beperkt tot de K meest waarschijnlijke woorden, in een poging om een evenwicht te bereiken tussen coherentie en willekeurigheid. Deze aanpak helpt om relevantere en minder herhalende tekst te genereren, terwijl er toch variabiliteit in reacties mogelijk blijft - en dat alles terwijl de behoefte aan krachtige servers geminimaliseerd wordt.

Qua prestaties claimt Gemini Nano een solide verbetering ten opzichte van zijn voorganger. De nauwkeurigheid van het model bij taken als parafraseren en wiskundeproblemen is gestegen naar respectievelijk 90% en 23%, zoals het bedrijf aangeeft. Google biedt momenteel experimentele toegang aan ontwikkelaars, zodat zij alle bovengenoemde functies in hun apps kunnen integreren.

Om aan de slag te gaan, kunnen ontwikkelaars de documentatie van de SDK raadplegenmet een stap-voor-stap handleiding voor het gebruik van Gemini Nano in mobiele apps.