Apple onderzoek onthult grote fout in AI-taalmodellen: Nauwkeurigheid daalt tot 65 procent

Een recente https://winfuture.de/news,146050.html studie van enkele onderzoekers op Apple doet ons denken over de intelligentie van grote taalmodellen (LLM's) zoals ChatGPT opschudden. Het onderzoek, geleid door Iman Mirzadeh, gebruikte een nieuwe test genaamd GSM-Symbolic om te zien hoe goed deze AI-systemen overweg kunnen met wiskunde en logisch denken.

Wat ze vonden was niet geweldig voor de AI's. Toen ze willekeurige extra informatie in de vragen gooiden, daalde de nauwkeurigheid van de modellen enorm - in sommige gevallen met wel 65 procent. De hoofdvraag veranderde niet eens. Dit suggereert dat deze AI-systemen hun taken niet echt begrijpen.

Het onderzoek wijst op een essentieel verschil tussen er slim uitzien en dingen begrijpen. Veel AI-gegenereerde antwoorden lijken op het eerste gezicht juist, maar als je er dieper op ingaat, vallen ze uit elkaar. Dit benadrukt dat praten als een mens niet betekent dat de machine ook zo denkt.

Daarom suggereert het onderzoek dat we opnieuw moeten nadenken over hoeveel we vertrouwen en afhangen van deze systemen. Zeker, ze kunnen ongelooflijke dingen doen, maar ze hebben een aantal belangrijke gebreken, vooral bij lastige of ingewikkelde problemen. Het erkennen van deze zwakke punten is essentieel als we AI op een verantwoorde manier willen gebruiken.

Uiteindelijk herinnert dit onderzoek ons eraan dat hoewel AI nuttig kan zijn, we kritisch moeten blijven kijken naar wat het wel en niet kan doen. Naarmate deze hulpmiddelen een groter deel van ons leven gaan uitmaken, is het cruciaal dat we hun grenzen kennen als we ze slim en verantwoord willen gebruiken.