Herkennen van deepfakes: Moeilijk, maar niet hopeloos

Veel van de huidige onderzoeken naar het probleem van "deepfakes" zijn ontnuchterend. De met behulp van kunstmatige intelligentie gecreëerde vervalsingen kunnen reclameboodschappen in de mond van beroemdheden stoppen of politici op foto's tonen die nooit gebeurd zijn.

Als u dit materiaal aan mensen voorlegt, zijn de resultaten altijd vergelijkbaar, zoals het tijdschrift "Science" heeft verzameld. U kunt ook een munt opgooien om te bepalen wat echt is en wat niet.

Een van de redenen voor de miserabele resultaten zou immers zijn dat het fenomeen van deepfakes relatief nieuw is en dat bijna niemand in het dagelijks leven geconfronteerd wordt met het moeten kiezen tussen valse en echte inhoud.

En helaas is men zich ook niet bewust van de eenvoudige manier waarop bijvoorbeeld iemands lippen gesynchroniseerd kunnen worden met een nieuwe uitspraak.

Geen eenvoudig recept

Toch zijn er enkele spannende onderzoeken die een beetje hoop bieden. Er is bijvoorbeeld ontdekt dat de visuele cortex heel anders reageert op door AI gegenereerde gezichten dan op echte foto's. Helaas overlappen andere processen in de hersenen deze reactie. Helaas overlappen andere processen in de hersenen dit signaal, zodat de proefpersonen net als voorheen niet beter of slechter zijn in het herkennen van vervalsingen.

Er zijn echter een paar tekenen, en het is mogelijk om de valse afbeeldingen te leren herkennen. Soms zien handen er helemaal verkeerd uit en lijken ze zes of slechts vier vingers te hebben. Soms verschijnen er benen die van niemand zijn. Vaak vallen schaduwen verkeerd - op de overhemdkraag naar links en van de zonnebril naar rechts.

Maar natuurlijk wordt de AI steeds beter en worden zulke duidelijke zwakke punten steeds zeldzamer. Maar dan komt er een ander fenomeen om de hoek kijken. Door op steeds meer materiaal te trainen, worden gezichten uniformer, regelmatiger en perfecter. Er zijn geen oneffenheden en onvolkomenheden. Lichaamsvormen worden ook geïdealiseerd in plaats van natuurlijk. Dit ziet er minder mooi en griezeliger uit.

Dit geldt overigens ook voor nepstemmen. De AI heeft niet de neiging om typische versprekingen, een kort stotteren of een gebrek aan opnamekwaliteit te genereren.

Hoe complexer de vervalsing wordt, hoe gemakkelijker deze te detecteren is. Als bijvoorbeeld alleen een geluidsopname op echtheid moet worden gecontroleerd, mislukken de meeste. Als er ook een video is, het beste met ondertiteling, herkennen aanzienlijk meer proefpersonen de valse inhoud.

En tenslotte kan iedereen die weet dat afbeeldingen en video's op deze manier gemanipuleerd en gemaakt kunnen worden en dat de technologie een paar zwakke punten heeft, deepfakes betrouwbaarder herkennen. Voor de rest geldt wat altijd al waar is geweest: het kan nooit kwaad om kritisch te zijn en vragen te stellen.