Slechte start voor Apple's AI "Apple Intelligence" in Engeland door valse krantenkop die kritiek krijgt van Journalisten zonder Grenzen

Applede intrede van de techgigant in de wereld van kunstmatige intelligentie blijkt moeilijker dan verwacht. Apple Intelligence, het nieuwe AI-systeem van de techgigant, is sinds de release negatief in het nieuws gekomen. Centraal in de kritiek staat het vermogen, of het gebrek daaraan, van de AI om informatie samen te vatten. Dit betreft zowel het automatisch genereren van nieuwskoppen als het samenvatten van meldingen op het vergrendelscherm.

Zo meldde Apple Intelligence onlangs ten onrechte dat Luigi Mangione, de vermeende moordenaar van Brian Thompson, CEO van UnitedHealthcare, zichzelf had doodgeschoten. De Israëlische premier Benjamin Netanyahu werd ook per ongeluk gearresteerd verklaard.

Deze ongelukken hebben geleid tot een reactie van Reporters Without Borders (RSF), die Apple oproepen om de functie voor het samenvatten van koppen uit te schakelen. RSF stelt dat AI-systemen nog steeds niet in staat zijn om complexe inhoud betrouwbaar samen te vatten, wat resulteert in fouten die neerkomen op verkeerde informatie voor gebruikers. Verder benadrukt RSF dat menselijke controle essentieel is bij het verwerken van complexe informatie en dat AI niet gebruikt moet worden als vervanging voor journalistieke zorgvuldigheid.

Ook de BBC, waarvan de krantenkoppen ook onjuist zijn samengevat door Apple Intelligence, heeft geklaagd bij Apple. In het algemeen genereert Apple's op AI gebaseerde samenvatting van meldingen op het vergrendelscherm en bij het samenvatten van nieuws nog steeds te veel fouten, wat vragen oproept over de gereedheid en het verantwoorde gebruik van AI in de informatievoorziening.

Apple moet nog reageren op de kritiek en oproepen om de functie uit te schakelen, dus het valt nog te bezien hoe het bedrijf met het PR-debacle zal omgaan.