Adobe-ondersteund SlimLM levert cloud-vrije mobiele AI-mogelijkheden

Dankzij een nieuw klein taalmodel (SLM) dat is ontwikkeld door een team van AI-onderzoekers bij Adobe Inc. samen met collega's van Auburn University en Georgia Tech, zullen nieuwe AI-apps voor smartphones documenten lokaal kunnen verwerken zonder toegang tot de cloud. Dit SLM heet SlimLM, en alle details erover zijn gepubliceerd op op arXiv.

"Door middel van uitgebreide experimenten op een Samsung Galaxy S24 identificeren we de optimale afwegingen tussen modelgrootte (variërend van 125M tot 7B parameters), contextlengte en inferentietijd voor efficiënte verwerking op het apparaat. SlimLM is voorgetraind op SlimPajama-627B en verfijnd op DocAssist, onze dataset voor samenvatten, vragen beantwoorden en suggestietaken. Ons kleinste model laat efficiënte prestaties zien op S24, terwijl grotere varianten verbeterde mogelijkheden bieden binnen mobiele beperkingen," aldus SlimLM

onthulde het onderzoeksteam.

SlimLM is nog niet beschikbaar voor de massa, maar dat zou snel kunnen gebeuren. Dankzij dit stukje code kan een smartphone de kracht van AI lokaal gebruiken om documenten te verwerken zonder zelfs maar online te gaan. Hoewel cloudgebaseerde AI-oplossingen vaak veel minder rekenkracht gebruiken dan apps die lokaal draaien, is de belangrijkste eigenschap die ze bieden privacy. Tot nu toe hebben de grote namen op dit gebied, zoals Google, Apple en Meta, al dergelijke apps ontwikkeld. Helaas blijft hun status nogal experimenteel, en geen van hen heeft de weg naar de massa gevonden. Als de plannen van de bovengenoemde onderzoekers werkelijkheid worden, zou SlimLM de eerste oplossing van dit type kunnen worden.

Geïnteresseerden in SlimLM en soortgelijke oplossingen zouden Jesse Sprinter's Demystifying AI: Your Guide to Mastering Small Language Models moeten lezen, dat momenteel verkrijgbaar is voor $7,11 op Kindle en voor $18,99 in paperback.