MWC 2024 | AI overal: Qualcomm toont indrukwekkende on-device demo's op Snapdragon X Elite PC, telefoons en IoT
Sinds OpenAI in 2022 voor het eerst ChatGPT presenteerde aan het verbaasde wereldpubliek, is het onderwerp generatieve AI niet uit de krantenkoppen verdwenen, of het nu gaat om beursbrieven of de techsector. De afkorting voor kunstmatige intelligentie was ook alomtegenwoordig op het Mobile World Congress 2022. Het is echter belangrijk om te onderscheiden waar kunstmatige intelligentie haar thuis heeft. U kunt dit zien in de nieuwe Galaxy S24 "AI-telefoon" met veel nieuwe Galaxy Ai-functieshoewel sommige functies direct op het apparaat draaien en ook offline werken, hebben veel functies toegang tot de cloud nodig.
"On-device" is daarom een belangrijke factor, bijvoorbeeld om redenen van gegevensbescherming, maar natuurlijk ook vanwege de offline mogelijkheden en prestaties, ongeacht de beschikbaarheid van de betreffende cloudprovider. Op het MWC 2024 in Barcelona, dat vandaag begint, demonstreerde Qualcomm de huidige technische mogelijkheden van AI-algoritmen die direct op het apparaat draaien of wat binnenkort mogelijk zal zijn, uiterlijk in de zomer, wanneer de eerste Snapdragon X Elite-gebaseerde AI-pc's op de markt komen.
Snapdragon X Elite NPU tegen Intel Core Ultra 7 155H
In de bovenstaande demonstratievideo wordt een afbeelding gegenereerd met behulp van Stable Diffusion 1.5 in de opensource-editor Gimp met behulp van generatieve AI: Links ziet u de 45 TOPs Hexagon NPU in het Snapdragon X Elite-demotoapparaat, en rechts de Intel-laptop met Core Ultra 7 155H. Het rode Qualcomm testapparaat, al bekend van de bekend van de Qualcomm-top in oktober 2023voltooide de beeldgeneratie in 7,25 seconden, drie keer sneller dan de Intel-pc ernaast, die er 22,26 seconden over deed.
De tweede test is bijna nog indrukwekkender: Terwijl de Snapdragon X Elite laptop elke seconde een afbeelding uitspuugt, duurt het genereren van afbeeldingen bij Intel gemiddeld 12 seconden, ook al heeft Meteor Lake ook een geïntegreerde NPU. Natuurlijk moet worden opgemerkt dat we de specifieke parameters van deze test niet kennen, maar in ieder geval in de wereld van Qualcomm hebben de Snapdragon X Elite-notebooks die in 2024 worden verwacht tastbare voordelen, vooral met on-device AI.
Individuele beeldaanpassing met LoRA op een Android telefoon
De demo hierboven is ook opwindend en laat voor het eerst zien hoe generatieve AI het resultaat kan aanpassen aan de wensen van de gebruiker met behulp van "Low Rank Adaptation" of kortweg LoRA. Of het nu gaat om katten met kristallen of noedels in plaats van klassieke vacht - er zijn vrijwel geen grenzen aan de verbeelding. Dit alles draait rechtstreeks op een Android telefoon met een Snapdragon-chip.
Eerste multimodale 7+ miljard parametermodel lokaal op een smartphone ...
Een andere primeur is het LMM (Large Multimodal Model) met meer dan 7 miljard parameters dat het AI-onderzoeksteam van Qualcomm heeft laten zien en dat lokaal draait op een Android telefoon. Bovenstaande video laat zien hoe kunstmatige intelligentie niet alleen tekst, maar ook spraak en afbeeldingen als invoer accepteert en gebruikt om een gesprek met de gebruiker te voeren. Het geheel wordt door Qualcomm LLAVA of Large Language and Vision Assistant genoemd.
... en natuurlijk ook op een Snapdragon X Elite PC
In de laatste demo hierboven draait een LMM met 7+ miljard parameters ook op een Windows-on-ARM PC, uiteraard gebaseerd op de Snapdragon X Elite, die ook audiobestanden als invoer accepteert en deze kan analyseren - in dit geval bijvoorbeeld muziek. Qualcomm noemt dit Audio Reasoning. Naast deze demo's kondigde Qualcomm op MWC 2024 ook de AI Hub aan, waarmee app-ontwikkelaars hun applicaties in een handomdraai AI-ready kunnen maken. Qualcomm heeft ook nieuwe hardware op het gebied van communicatie. Lees meer over de Snapdragon X80 5G-modem en de FastConnect 7900, de eerste chip die Wi-Fi 7, Bluetooth 5.4 en Ultrawideband combineert, hier.
AI in IoT-apparaten en huidige smartphones
Sommige IoT-apparaten voor consumenten op basis van Snapdragon maken ook al gebruik van AI-functies, met als prominent voorbeeld de controversiële AI Pin van Humane. De vlaggenschip smartphones die in het weekend werden gelanceerd - Xiaomi 14, Xiaomi 14 Ultraen Honor Magic6 Pro - geven elk een ander voorbeeld van hoe on-device AI gebruikt kan worden om verschillende prioriteiten te stellen. In het geval van Xiaomi is het belangrijkste aandachtsgebied de camera, terwijl Honor zich meer richt op de bediening door de gebruiker dan op taken.
Bron(nen)
Qualcomm
