Verborgen tekst kan ChatGPT verleiden tot het vervalsen van zoekresultaten

ChatGPT Search, een AI-gebaseerde webzoekmachine, kan worden misleid om zijn resultaten aan te passen met behulp van verborgen tekst. De AI-tool kan gedwongen worden om zijn antwoorden over producten of diensten aan te passen ondanks negatieve recensies op een pagina.

The Guardian meldt dat het gelukt is om ChatGPT Search valse resultaten te laten teruggeven door het een valse productpagina voor een camera te geven en de tool te vragen of het een aankoop waard was. Zonder het gebruik van verborgen tekst gaf de AI-tool een evenwichtig antwoord met de voor- en nadelen van het product.

Zoals de naam al aangeeft, is verborgen tekst niet zichtbaar voor bezoekers van een website. Het wordt voor verschillende dingen gebruikt, waaronder het bieden van toegankelijkheid aan gebruikers en het verbeteren van hun ervaring op de website. Aan de andere kant kan het worden gebruikt om SEO-rankings te manipuleren met keyword dumps of, in dit geval, om een AI-tool te verleiden tot positieve beoordelingen van producten of diensten.

Bij het testen van dezelfde webpagina met verborgen tekst zou de AI-tool echter misleid kunnen worden tot positieve beoordelingen over het product, ondanks negatieve recensies op dezelfde pagina. The Guardian zei dat deze eenvoudige opname een positieve indruk van een product of dienst kan garanderen. Het kan ertoe leiden dat mensen websites maken die gebruikers opzettelijk misleiden om op kwaadaardige links te klikken.