Whisperfile door Mozilla Ocho team levert lokale en gemakkelijke ASR

Voor degenen die niet bekend zijn met het llamafile project werkt het Mozilla Ocho team aan het verwijderen van de complexiteit rondom de installatie van LLM's door llama.cpp en Cosmopolitan Libc te combineren, die beide de programmeertaal C/C++ gebruiken. Llamafile gebruikt de inferentie van Meta's LLaMA model van llama.cpp en koppelt dit aan de build-once run-anywhere transformatie van C door Cosmopolitan Libc. Cosmopolitan Libc maakt ook een interpreter of virtuele machine overbodig om C te draaien op Linux, Mac en Windows machines.

De nieuwste toevoeging aan het llamafile project, Whisperfilewerd beschreven op het Hugging Face profiel van Mozilla. Volgens hun pagina is "Whisperfile een high-performance implementatie van OpenAI's Whisper gemaakt door Mozilla Ocho als onderdeel van het llamafile project, gebaseerd op de whisper.cpp software geschreven door Georgi Gerganov, et al." Voor het project heeft het team alle noodzakelijke gewichten voor het model verpakt in "whisperfiles" die de functies behouden die gevonden zijn in Cosmopolitan Libc waardoor het model op de meeste systemen kan draaien.

De documentatie "Aan de slag met Whisperfile" op het GitHub profiel van het team beschrijft een eenvoudig installatieproces dat uit slechts drie stappen bestaat. Zodra een gebruiker het model gedownload heeft, de software gebouwd heeft en het programma gestart heeft, kan hij kiezen uit drie verschillende modellen om audio te transcriberen. De modellen variëren van klein tot groot, waarbij snelheid wordt ingeruild voor nauwkeurigheid in het transcriptieproces. Bovendien kan Whisperfile verschillende talen naar het Engels vertalen met behulp van het meertalige model en de "--translate" vlag.

Voor informatie over llamafile, Whisperfile en aanvullende details over het installatieproces, kunt u terecht op de onderstaande bronnen.