CMV Subreddit werd geïnfiltreerd door bots voor een onethisch experiment aan de universiteit

Onderzoekers van de Universiteit van Zürich voerden in het geheim een onderzoek uit met AI-bots om te zien of deze de meningen van mensen over verschillende onderwerpen veranderen. Het experiment was gericht op de subreddit r/changemyview (CMV), een populaire discussiedraad over tal van onderwerpen met tegengestelde meningen.

De naamloze onderzoekers namen vooraf geen contact op met de moderators en vroegen geen toestemming voor het inzetten van de AI-gegenereerde bots. De moderators werden na het experiment via e-mail op de hoogte gebracht als "onderdeel van een openbaarmakingsstap"

Enkele van de meer vernietigende voorbeelden omvatten een bot die zich voordeed als "slachtoffer van verkrachting", een bot die zich voordeed als "traumaconsulent gespecialiseerd in misbruik" of een bot die zich voordeed als "zwarte man die tegen Black Lives Matter is"

De moderatoren beschuldigden de onderzoekers er ook van dat ze waren overgestapt van een geplande "op waarden gebaseerde argumenten"-aanpak die was goedgekeurd door de ethische commissie van de universiteit, naar meer "gepersonaliseerde en verfijnde argumenten" die niet waren goedgekeurd.

De bots kregen toegang tot de persoonlijke kenmerken van de Original Poster (OP), waaronder geslacht, leeftijd, locatie, etniciteit en politieke oriëntatie zoals afgeleid uit hun postinggeschiedenis op het platform. De onderzoekers voerden aan dat de methode gerechtvaardigd was omdat "het gebrek aan bestaande veldexperimenten een onaanvaardbare leemte in de kennis vormt"

De reactie van het onderzoeksteam van de Universiteit van Zürich deed weinig om het vuur te doven. Ze beweerden dat ze "zich inzetten voor volledige transparantie" Ze bepleitten hun zaak onder het mom van "de samenleving helpen zich voor te bereiden op de gevolgen in de echte wereld van door AI aangedreven overtuigingskracht"

Belangrijker nog, ze vonden dat dit project "belangrijke inzichten opleverde," en "het onderdrukken van de publicatie staat niet in verhouding tot het belang van de inzichten die het onderzoek oplevert."

In een e-mail naar Engadget op https://www.engadget.com/ai/researchers-secretly-experimented-on-reddit-users-with-ai-generated-comments-194328026.htmlbeweerden de onderzoekers dat "de potentiële voordelen van dit onderzoek aanzienlijk groter zijn dan de risico's."

Het werd zo erg dat de Chief Legal Officer van Reddit, Ben Lee, op de berichten reageerde en zei dat het team "alle accounts die te maken hebben met het onderzoek van de Universiteit van Zürich had verboden" Lee zei dat Reddit "bezig was om contact op te nemen met de Universiteit van Zürich en dit specifieke onderzoeksteam met formele juridische eisen"