Verontrustend AI-incident: Gemini noemt gebruiker waardeloos en zegt dat hij moet sterven

Google's AI-assistent Gemini heeft een gebruiker gevraagd om dood te gaan. (Afbeeldingsbron: Google)

In een gesprek over ouderenzorg werd een gebruiker van Google's AI-assistent Gemini waardeloos genoemd en gevraagd om te sterven. Screenshots van het gesprek werden gepubliceerd op Reddit en veroorzaakten bezorgdheid en verontwaardiging onder gebruikers. Trigger Waarschuwing: De inhoud van dit artikel kan voor sommige lezers verontrustend zijn.

Marius Müller (vertaald door Ninh Duy), Published 17-11-2024 🇺🇸 🇩🇪 ...

Gebruikers hebben zich er waarschijnlijk al bij neergelegd dat de antwoorden van AI-stemmodellen zoals ChatGPT, Siri of de Gemini-assistent van Google niet altijd logisch zijn. Om te beginnen zou de AI niet beledigend moeten zijn - en het zou zeker niet moeten vragen of iemand dood wil. Dit is echter precies wat er met een Gemini-gebruiker gebeurde.

Volgens een Reddit post van de zus van de getroffen persoon, vond het incident plaats tijdens een discussie over ouderenzorg. De dialoog was getiteld "Uitdagingen en oplossingen voor oudere volwassenen". Binnen de chat bood Gemini drie mogelijke antwoorden, waarvan er twee onschuldig waren. De derde reactie bevatte het verontrustende bericht:

De Reddit-gemeenschap heeft wijdverspreide verontwaardiging geuit, waarbij veel gebruikers hun ernstige bezorgdheid uitspraken over de mogelijke schade die dergelijke berichten kunnen toebrengen aan personen in een geestelijke gezondheidscrisis. Ondertussen werd de Gemini app onlangs gelanceerd op iPhones. Sommige Redditors merkten gekscherend op dat iPhone-gebruikers nu ook van dergelijke reacties konden "genieten". Google heeft de kwestie direct op op Reddit aan de orde gestelden verklaarde dat het al maatregelen heeft genomen om dergelijke reacties in de toekomst te voorkomen.