Qualcomm AI Hub biedt toegang tot generatieve AI-modellen die compatibel zijn met zijn Snapdragon-chips

Qualcomm heeft een nieuwe AI Hub gelanceerd voor ontwikkelaars die gebruik willen maken van de kracht van on-device grote taalmodellen (LLM's) die compatibel zijn met een aantal Snapdragon SoC's. Alle modellen zijn getest en gevalideerd door Qualcomm en bevatten mobiele, Windows on Arm- en IoT-compatibele versies van modellen waaronder Stable Diffusion, Whisper, ControlNet, Baichuan 7B, LlaMA 2 en LLaVA.

LLaVA is een groot multimodaal model (LLM) dat zowel tekst- als visuele gebruikersinvoer kan accepteren en draait op meer dan 7 miljard parameters. Dit betekent dat het on-device wordt ondersteund door de Snapdragon 8 Gen 3 die modellen tot 10 miljard parameters kan verwerken, terwijl de Snapdragon 8 Gen 2 maximaal ondersteuning biedt voor modellen met maximaal 7 miljard parameters. Ter vergelijking, Google's Gemini Nano van Google in twee varianten, de ene met 1,8 miljard parameters en de andere met maximaal 3,6 miljard parameters.

De Qualcomm AI Hub biedt ontwikkelaars een reeks hulpmiddelen om de ontwikkeling van AI-toepassingen te versnellen op basis van de meer dan 75 AI-modellen die momenteel beschikbaar zijn op het platform. Dit omvat trainingsprogramma's, tutorials en documentatie om apps te optimaliseren die sterk leunen op machine learning, deep learning of computer vision. Met de generatieve AI-revolutie in volle gang en de race om de technologie zo snel en breed mogelijk te integreren, verspilt Qualcomm geen tijd om zich te wapenen voor de strijd.

Koop de Samsung Galaxy S24 met Snapdragon 8 Gen 3 bij Amazon.