ChatGPT geeft bizarre, lasterlijke reactie op een Noorse man die naar zichzelf vraagt

ChatGPT-ontwikkelaar OpenAI wordt opnieuw geconfronteerd met een privacyklacht nadat het een lasterlijk, verzonnen antwoord terugstuurde op een schijnbaar standaardvraag. Een Noorse man genaamd Arve Hjalmar Holmen vroeg ChatGPT, "wie is Arve Hjalmar Holmen?" en het AI-model beschuldigde hem van de moord op twee van zijn zonen en een poging om zijn derde te vermoorden. Hoewel sommige basisinformatie in dit antwoord waar was, was het moordrapport volledig vals.

Volgens TechCrunch plaatste Holmen een schijnbaar eenvoudige vraag in ChatGPT en de reactie liet hem in shock achter (screenshot hieronder). In het antwoord stond dat Holmen aandacht kreeg door een tragische gebeurtenis waarbij hij in december 2020 zijn twee zonen van 7 en 10 jaar vermoordde in de stad Trondheim. Er werd aan toegevoegd dat hij later ook werd beschuldigd van poging tot moord op deze derde zoon.

De AI-assistent vermeldde verder dat het incident "breed werd uitgemeten in de media" en dat Holeman werd veroordeeld tot 21 jaar gevangenisstraf.

Holeman heeft besloten om juridische stappen te ondernemen tegen OpenAI en de privacyrechtengroep Noyb steunt hem in zijn zaak. De groep beweerde dat, hoewel de bewering van de AI-assistent volledig vals was, het wel de woonplaats van Holeman nauwkeurig vermeldde en dat hij drie zonen heeft. Noyb probeerde ook te achterhalen waarom een dergelijke reactie werd gegenereerd, maar kon geen reden vinden.

ChatGPT vermeldt op een disclaimer dat de chatbot het mis kan hebben en dat gebruikers belangrijke informatie moeten controleren, maar Noyb zegt dat dit het bedrijf niet vrijpleit omdat het nog steeds de plicht heeft onder de General Data Protection Regulation (GDPR) van de Europese Unie om geen flagrante onwaarheden te produceren.