Nieuwe trainingsaanpak probeert sociale vooroordelen in AI te verminderen

AI-chatbots staan erom bekend dat ze vaak racistisch bevooroordeelde oplossingen genereren als ze verschillende vragen krijgen, en veel onderzoek heeft zich op dit probleem gericht. Nu is er een nieuwe trainingsmethode om dit probleem op te lossen. De methode staat bekend als "eerlijke deduplicatie" of gewoon "FairDeDup" en is het resultaat van onderzoek door een team van Adobe en OSU College of Engineeringdoctoraalstudent Eric Slyman.

Het ontdubbelen van datasets die gebruikt worden bij AI-training bestaat uit het verwijderen van overbodige informatie, waardoor de kosten van het hele proces verlaagd worden. Op dit moment zijn de gebruikte gegevens afkomstig van het hele internet, dus ze bevatten oneerlijke of bevooroordeelde ideeën en gedragingen die mensen vaak bedenken en online delen.

Volgens Slyman "verwijdert FairDeDup overbodige gegevens terwijl het controleerbare, door mensen gedefinieerde dimensies van diversiteit integreert om vooroordelen te verminderen. Onze aanpak maakt AI-training mogelijk die niet alleen kosteneffectief en nauwkeurig is, maar ook eerlijker." De lijst van bevooroordeelde benaderingen die tegenwoordig door AI-chatbots in stand worden gehouden, omvat beroep, ras of geslacht, maar ook leeftijd, geografie en cultuurgerelateerde ideeën die duidelijk oneerlijk zijn.

FairDeDup is een verbeterde versie van een eerdere methode die bekend staat als SemDeDupdie sociale vooroordelen vaak verergerde, hoewel het een kosteneffectieve oplossing bleek te zijn. Geïnteresseerden op dit gebied zouden Kris Hermans' Mastering AI Model Training: A Comprehensive Guide To Become An Expert In Training AI Models, dat momenteel verkrijgbaar is op Kindle voor $9,99 of in paperbackversie (voor $44,07).