Californië één stap verwijderd van het kortwieken van AI

AI-technologiebedrijven met activiteiten in Californië moeten zich binnenkort misschien elders vestigen of hun benadering van onderzoek op dit gebied heroverwegen als gouverneur Gavin Newsom besluit om de AI-veiligheidswet, SB 1047, goed te keuren. Volgens deze wet moeten geavanceerde AI-modellen getest worden nadat de ontwikkelaars een noodschakelaar hebben geïmplementeerd. Terwijl sommigen beweren dat dit een welkome veiligheidsmaatregel is, zien de critici het als een ernstige beperking die innovatie zou tegenhouden en uiteindelijk veel bedrijven uit de staat zou verdrijven.

Elon Musk, CEO van zowel Tesla als AI-bedrijf xAIis voorstander van het wetsvoorstel. Aan de andere kant zijn grote technologienamen zoals Google, Meta en OpenAI zich zorgen dat de beperkingen die dit wetsvoorstel met zich meebrengt, de extra veiligheid tegen een mogelijke, maar vrij onwaarschijnlijke, althans op dit moment, AI-dreiging niet waard zijn. Als het wetsvoorstel wordt aangenomen, kan de openbare aanklager van de staat ontwikkelaars aanklagen die zich niet aan de wet houden. Audits door derden en bescherming van klokkenluiders worden ook genoemd in de wetgeving, die uiteindelijk groen licht nodig heeft van de Californische gouverneur Gavin Newsom.

De beslissing die op de schouders van Newsom rust is niet gemakkelijk, maar hij heeft tot 30 september om te beslissen. Aan de andere kant, zelfs als SB 1047 erdoor komt, moet worden benadrukt dat veiligheidstests vereist zijn voor AI-modellen met ontwikkelingskosten van meer dan $100 miljoen of modellen die een bepaalde hoeveelheid rekenkracht vereisen, dus de meeste AI-startups hoeven geen moeite te doen voor de implementatie van de noodschakelaar.

Geïnteresseerden in AI kunnen BK's Artificial Intelligence and the Human Mind: A Radical New Old Science of the Human Mind bij Amazon kopen voor $9,99 in Kindle-formaat, $32,21 in hardcovervorm of $17,95 (paperback).