Pindrop onthult Pulse Inspect-software om AI-deepfake stemklonen te detecteren om fraude en desinformatie te helpen stoppen
Pindrop heeft de Pulse Inspect software onthuld om AI-deepfake stemklonen te detecteren om fraude en desinformatie tegen te gaan. De software maakt gebruik van gepatenteerde technologieën om betrouwbaar meer dan 90% van de AI-gegenereerde stemmen te detecteren, zelfs met audiosamples van minder dan tien seconden.
AI-gekloonde stemmen zijn zo overtuigend echt geworden dat miljoenen verloren zijn gegaan aan fraude. Eerder dit jaar hebben dieven $25 miljoen gestolen van een financieel medewerker bij een multinational in Hong Kong door een deepfake videogesprek te gebruiken met deepfake stemmen van de CFO en andere personeelsleden. Deepfake politieke video's zijn gebruikt om de uitkomst van verkiezingen te beïnvloedenwaaronder de komende Amerikaanse verkiezingen van 2024. Er zijn ook nepstemmen van politici gemaakt en gebruiktwat tot veel ophef heeft geleid.
Pindrop doet al acht jaar onderzoek naar deze kwestie en heeft 25 patenten op audio deepfake detectie. Hun nieuwste Pulse Inspect AI is getraind op meer dan 20 miljoen echte en valse stemvoorbeelden. Valse stemvoorbeelden van meer dan 370 verschillende kloongereedschappen zorgen voor hoge detectiepercentages. De AI splitst stemmonsters op in clips van vier seconden voor analyse, waarbij gebruik wordt gemaakt van de unieke audiokenmerken van verschillende deepfake algoritmen en aanvullende audiokenmerken van echte stemmen om vervalsingen te identificeren. Hierdoor kan Pulse Inspect in 90% van de gevallen vervalsingen detecteren bij gekloonde stemmen van nog nooit eerder gebruikte deepfake tools en in 99% van de gevallen bij stemmen van eerder gebruikte tools.
Bedrijven moeten weten dat fraudedetectiesoftware nooit perfect is. Uit een recente test van Pulse Inspect door NPR bleek dat de software bij 3 van de 84 geteste samples echte stemmen niet correct onderscheidde van nepstemmen. Het faalpercentage van 3,6% laat aanvallers een kleine kans op succes, en bedrijven moeten altijd gebruik maken van verdediging in de diepte om hun bedrijfsmiddelen te beschermen.
Lezers die zich zorgen maken over hun bezittingen en dierbaren zouden hun accounts moeten beveiligen met twee-factor methodes, zoals sms-toegangscodes of een fysieke twee-factor sleutel(zoals deze op Amazon), en ervoor moeten zorgen dat familieleden een geheim woord of een geheime zin gebruiken om hun identiteit te verifiëren bij verdachte telefoontjes.
Bron(nen)
Pindrop lanceert Pulse Inspect: Een geavanceerde oplossing om Deepfakes en de verspreiding van desinformatie tegen te gaan
PindropⓇ PulseTM Inspect stelt media, sociale medianetwerken, non-profitorganisaties en overheden in staat om de integriteit van inhoud te handhaven door met 99% nauwkeurigheid AI-gegenereerde audio te identificeren
Atlanta, GA - 15 augustus 2024 - Pindrop, wereldwijd leider in stemverificatie en -beveiliging sinds 2011, kondigt vandaag de lancering van PindropⓇ PulseTM Inspect in Preview aan. Deze innovatieve tool, de nieuwste toevoeging aan Pindrops baanbrekende PindropⓇ PulseTM productfamilie voor deepfake detectie, kan met 99% nauwkeurigheid AI-gegenereerde spraak in elk digitaal audiobestand detecteren. Na de lancering van Pindrop Pulse eerder dit jaar en de laatste financiering van Pindrop in juli, breidt Pindrop Pulse Inspect de technologie van Pindrop uit tot meer dan alleen callcenters, maar biedt nu een nieuwe use case voor media-organisaties, non-profitorganisaties, overheidsinstellingen en sociale medianetwerken. Pulse Inspect analyseert en verifieert snel of mediabestanden synthetische spraak bevatten, zodat klanten proactief de verspreiding van verkeerde informatie kunnen voorkomen en de geloofwaardigheid van hun merk kunnen behouden.
Generatieve AI heeft geleid tot een toename van deepfakes, die een ernstige bedreiging vormen voor de geloofwaardigheid van organisaties. In het Deepfake and Voice Clone Consumer Sentiment Report van Pindrop wordt geschat dat meer dan 12 miljoen Amerikaanse volwassenen iemand kennen die persoonlijk en zonder hun toestemming deepfakes heeft laten maken. Deze synthetische bestanden worden vaak verspreid via platforms als YouTube, TikTok, Instagram, Facebook en nieuwsmedia. Om blootstelling aan deze evoluerende bedreigingen te helpen voorkomen, kunnen organisaties deze geavanceerde technologie gebruiken om hun publieke imago en geloofwaardigheid te beschermen. De Pulse-oplossing van Pindrop pakt dit probleem frontaal aan door deepfakes met uitzonderlijke nauwkeurigheid te detecteren.
Door Pulse Inspect te gebruiken, kunnen gebruikers audiobestanden uploaden naar het Pindrop-platform om snel en nauwkeurig te bepalen of de bestanden synthetische spraak bevatten. Pindrop biedt onmiddellijke deepfakescores en inzicht in specifieke delen van het bestand waarvan is vastgesteld dat ze synthetische of deepfake artefacten bevatten, zodat de gebruiker meer aandacht kan besteden aan dat segment bij het beoordelen en uitvoeren van de analyse. Met Pulse Inspect kunnen gebruikers snel actie ondernemen om de integriteit van inhoud te waarborgen voordat deze wordt gedistribueerd op een online openbaar nieuws-, sociaal of publicatieplatform.
"Al meer dan tien jaar loopt Pindrop voorop in innovatie op het gebied van stemverificatie en -beveiliging. Eerder dit jaar ontdekten we bijvoorbeeld de bron-TTS engine die gebruikt werd in het Biden deepfake incident, en de kritieke behoefte aan robuuste deepfake detectiemechanismen kwam luid en duidelijk naar voren in mijn gesprekken met tientallen belanghebbenden in verschillende sectoren," zei medeoprichter en CEO van Pindrop, Vijay Balasubramaniyan. "Vandaag lanceren we Pulse Inspect om onze expertise in deepfake detectie uit te breiden naar organisaties zoals media, non-profitorganisaties, overheden en sociale medianetwerken op een cruciaal moment in de geschiedenis. Met Pulse Inspect stellen we organisaties in staat om de integriteit van hun content te waarborgen en het vertrouwen terug te brengen in het moderne digitale tijdperk."
Pulse Inspect wordt aangedreven door de geavanceerde deepfake-detectietechnologie van Pindrop, die volgens NPR in een onafhankelijk onderzoek 40 procentpunten effectiever was dan de dichtstbijzijnde concurrent. Pindrop heeft zijn model voor deepfakedetectie getraind op 350+ tools voor deepfakegeneratie, 20M+ unieke uitingen en 40+ talen, die meer dan 90% van de gesproken talen op internet dekken. Continue deepfake-scores worden elke vier seconden geleverd, waardoor synthetische versus menselijke inhoud in gemengde media kan worden geïdentificeerd. Door continu de liveness te volgen, kan Pulse Inspect detecteren welke segmenten van de audio synthetisch versus echt zijn, wat vooral handig is als slechts een deel van de audio een deepfake is. Het gebruiksvriendelijke, API-gestuurde batchverwerkingsplatform en de eenvoudige gebruikersinterface bieden een duidelijke analyse (synthetisch versus niet-synthetisch) met instelbare drempels op basis van risicotolerantie, wat uiteindelijk tijd, geld en middelen bespaart.
"Als leider op het gebied van synthetische stem voor Hollywood heeft Respeecher richtlijnen en beleidsregels opgesteld die ervoor zorgen dat onze technologie niet misbruikt wordt, en we blijven ons inzetten voor pionierswerk op het gebied van ethische ontwikkeling en gebruik van AI-stemkloontechnologie," zegt Alex Serdiuk, CEO en medeoprichter van Respeecher, een partner van Pindrop. "De Pulse Inspect-technologie van Pindrop helpt ons ervoor te zorgen dat onze detectietechnologie generatieve AI-aanvalsbedreigingen voor blijft. We zijn verheugd over de lancering van Pindrop Pulse Inspect en kijken ernaar uit om de technologie in handen te geven van onze gezamenlijke klanten, zodat zij elk geluid forensisch kunnen onderzoeken en de synthetische herkomst ervan kunnen bepalen."
"Met de aankomende Amerikaanse verkiezingen en de dramatische groei van synthetische AI-gegenereerde audio die in 2024 in deze gesprekken verschijnt, erkent YouMail, een visuele voicemail- en Robocall-blokkeringsservice, Pindrop Pulse Inspect als de go-to oplossing om nauwkeurig deepfakes in telefoongesprekken te detecteren," zegt Mike Rudolph, Chief Technology Officer bij YouMail. "De technologie van Pindrop was niet alleen bestand tegen verschillende audioformaten, maar was ook indrukwekkend nauwkeurig op schaal. We zijn verheugd om met Pindrop samen te werken bij het identificeren van verkiezingsgerelateerde robocalls die deepfakes zijn, vooral omdat het volume van deze oproepen toeneemt tijdens het kritieke Amerikaanse verkiezingsseizoen."
"TrueMedia.org is een non-profit, niet-partijgebonden AI-project om desinformatie in politieke campagnes te bestrijden door gemanipuleerde media te identificeren," zegt Oren Etzioni, CEO van TrueMedia.org. "Uit onze uitgebreide evaluatie bleek dat de audio deepfake-detectie van Pindrop nauwkeuriger is dan andere alternatieven bij het detecteren van synthetische spraak. We zijn verheugd om met Pindrop samen te werken in deze missie en de deepfake-detectietechnologie van Pindrop toe te voegen aan de oplossing voor onze klanten en gebruikers over de hele wereld."
