Deepfake-schandaal op middelbare school roept wetgevers tot actie op

Deepfake-technologie is geen nieuw concept, maar leerlingen van een middelbare school in New Jersey zijn het slachtoffer geworden van hun klasgenoten die deze AI-technologie gebruikten. Verschillende jongens van de school hadden de afbeeldingen van hun vrouwelijke klasgenoten gebruikt. Eén slachtoffer, Francesca, een 14-jarige studente, meldde dat zij en meer dan 30 andere tieners op deze foto's stonden, die zonder hun toestemming op school werden verspreid. Volgens een e-mail van de school blijkt het werkelijke aantal slachtoffers echter minder dan 30 te zijn.

Francesca nam vervolgens contact op met verschillende wetgevers en ontving antwoorden van onder andere U.S. Representative Joe Morelle uit New York, U.S. Representative Tom Kean Jr. uit New Jersey en New Jersey State Senator Jon Bramnick. Dankzij haar inspanningen zijn er onlangs nieuwe wetsvoorstellen ingediend, met de nadruk op het labelen en identificeren van AI-gegenereerde inhoud en het voorkomen van de opname van minderjarig materiaal. Daarnaast heeft het meisje een website opgezet om hulp te bieden aan die getroffen zijn door deepfake technologie.

Ik realiseerde me die dag [dat] ik me moest uitspreken, omdat ik echt denk dat dit niet oké is. Dit is zo'n nieuwe technologie die mensen niet echt kennen en niet echt weten hoe ze zich ertegen moeten beschermen.

- Francesca

Joe Morelle heeft een wetsvoorstel opgesteld in 2022 om de productie van deepfakes zonder toestemming strafbaar te stellen, maar dit wetsvoorstel kreeg niet voldoende steun en is uiteindelijk verworpen. Er zijn ook andere initiatieven ingediend om deepfakes te reguleren, zoals de DEEPFAKES Accountability Act van 2019 van afgevaardigde Yvette Clarke, die vereist dat alle deepfakes door hun auteurs van een watermerk worden voorzien.

Sindsdien is het maken van deepfakes gemakkelijker geworden omdat de kunstmatige intelligentie zich aanzienlijk heeft ontwikkeld. Met minimaal beeldmateriaal zijn echt lijkende vervalsingen haalbaar. Lensa, een generatieve AI-app, maakt het bijvoorbeeld mogelijk om mensen uit te kleden.

We hebben middelbare scholieren net de moeder van alle kernwapens gegeven, namelijk de mogelijkheid om porno te maken met [een enkele afbeelding] van wie ze maar willen. En natuurlijk doen ze dat.

- Hany Farid, Professor aan de Universiteit van Californië, Berkeley

Het wetsvoorstel van Joe Morelle zou het mogelijk maken om makers en distributeurs van deepfakes zonder toestemming strafrechtelijk te vervolgen, door het als een federaal misdrijf te classificeren.