Google biedt 12 miljoen dollar voor hackers om generatieve AI-aanvallen aan te pakken

Google breidt zijn huidige bug bounty-programma uit om hackers en beveiligingsonderzoekers te belonen die mogelijke aanvallen in generatieve AI identificeren. Het Vulnerability Rewards Program (VRP) geeft duidelijke richtlijnen voor meldingen die in aanmerking komen voor financiële beloningen. Als een probleem in aanmerking komt voor rapportage, kunt u het indienen op de website Bug Hunter en een beloning ontvangen als het als geldig wordt beschouwd.

Vorig jaar betaalde Google beveiligingsprofessionals $12 miljoen voor het onthullen van beveiligingslekken. In augustus kwam het bedrijf samen met andere afgevaardigden uit de industrie en beveiligingsonderzoekers op Defcon, het grootste openbare evenement voor generatieve AI tot nu toe, in het Witte Huis bijeen om mogelijke problemen te identificeren.

Wij geloven dat de uitbreiding van het VRP onderzoek naar AI-veiligheid en -beveiliging zal stimuleren en potentiële problemen aan het licht zal brengen die AI uiteindelijk voor iedereen veiliger zullen maken. We breiden ook ons open source beveiligingswerk uit om informatie over de veiligheid van de toeleveringsketen van AI universeel vindbaar en verifieerbaar te maken.

- Woordvoerder van Google

Tot nu toe heeft het bedrijf zijn eigen "AI Red Team" gebruikt om AI-bedreigingen te onderzoeken, bugs te ontdekken en systeemverdedigingen te ontwikkelen.

We maken gebruik van de tactieken, technieken en procedures (TTP's) van aanvallers om een reeks verdedigingen van systemen te testen.

- Daniel Fabian, hoofd van Google Red Teams

Onder de nieuwe regelgeving kunnen externe hackers nu aanvallen simuleren om bijvoorbeeld zwakke plekken in de AI-systemen en -services van Google te identificeren, maar ze moeten wel binnen een strikt kader werken. De uitbreiding van de stimuleringsregeling ging vooraf aan de invoering van een nieuw uitvoerend bevel door president Biden.

Zo vaardigde Joe Biden op 30 oktober de eerste verplichte overheidsmaatregel inzake kunstmatige intelligentie uit. Het uitvoeringsbevel schrijft een grondige evaluatie van AI-modellen voor voordat ze door overheidsinstanties worden gebruikt.