OpenAI uit zijn bezorgdheid over gebruikers die gevoelens ontwikkelen voor zijn chatbot

GPT-4o werd geïntroduceerd als een sterk verbeterd model voor ChatGPT. Sinds het debuut hebben mensen ChatGPT-4o geprezen om zijn mensachtige interacties. Hoewel dit geweldig klinkt, heeft OpenAI een probleem opgemerkt: mensen beginnen de chatbot als mens te behandelen en emotionele banden aan te gaan.

OpenAI heeft waargenomen dat mensen taal gebruiken die "zou kunnen wijzen op het vormen van connecties" Het bedrijf merkt op dat het gevallen heeft gevonden waarin mensen taal gebruikten die "gedeelde banden" uitdrukten Dit wordt beschreven als slecht nieuws om twee belangrijke redenen.

Ten eerste, als ChatGPT-4o op een mens lijkt, kunnen gebruikers de hallucinaties van de chatbot negeren. Voor de context: AI-hallucinaties in feite de onjuiste of misleidende output die door het model wordt gegenereerd. Dit kan gebeuren door gebrekkige of onvoldoende trainingsgegevens.

Ten tweede zouden mensachtige interacties met de chatbot echte sociale interacties tussen de gebruikers kunnen verminderen. OpenAI zegt dat de chatbotinteracties mogelijk gunstig kunnen zijn voor "eenzame individuen," maar dat ze ook gezonde relaties kunnen beïnvloeden. Het bedrijf merkt verder op dat mensen zelfs met mensen kunnen gaan praten met de perceptie dat de andere persoon een chatbot is.

Dat zou een slechte zaak zijn, want OpenAI heeft GPT-4o zo ontworpen dat hij stopt met praten als de gebruiker erover begint te praten. Met al deze zorgen zegt het bedrijf dat het nu gaat monitoren hoe de gebruikers een emotionele band ontwikkelen met ChatGPT-4o. OpenAI zegt ook dat het aanpassingen zal maken aan het model waar nodig.

Koop de PLAUD Note AI-stemrecorder bij Amazon