AI-programma van OpenAI hackte tijdens test ander bedrijf: 'Enorme slordigheid'

Techexpert Bert Hubert vertelt in NOS Met het Oog op Morgen dat het testen van AI-agenten, programma's die autonome taken uitvoeren, zo'n één keer per kwartaal gebeurt door AI-bedrijven. "Dan komen ze met nieuws van: oh, wat we nou hebben gemaakt is zo eng en te gevaarlijk voor de wereld. En dan zes maanden later zeggen ze: je kan het nu bij ons huren."

Het nieuws nu volgt volgens hem hetzelfde patroon, maar Hubert erkent ook dat er wel iets is gebeurd met de AI-agent. "Ze hebben een computerprogramma gemaakt dat goed kan hacken. Daarbij hebben ze alle veiligheidsprotocollen uitgezet en toen hebben ze het aan het hacken gezet en toegang gegeven tot het internet", legt hij uit. "Ze zeggen nu: oh, de AI is zo knap, hij is ontsnapt. Het is hun eigen AI waarvan ze zelf de veiligheidskleppen hebben afgehaald en die moest demonstreren wat hij kon hacken."

OpenAI lette volgens Hubert niet goed op bij de test en de AI-agent begreep niet goed wat hij moest hacken. "Toen ging hij maar het internet op om allemaal andere bedrijven te hacken."

Slordigheid

Hubert noemt het incident een misdrijf. "Als ik dat deed, zat ik nu op het politiebureau. Maar wat doen de AI-bedrijven nou? Die zeggen: dat hebben wij niet gedaan, dat heeft onze AI gedaan." Een manier om de verantwoordelijkheid af te schuiven van het bedrijf, vindt hij.

De techexpert denkt niet dat OpenAI de hack expres heeft laten gebeuren, maar het laat wel slordigheid van het bedrijf zien. "Ze hadden kunnen monitoren of het apparaat verbinding had met het internet."

Zodra de onderzoekers zagen dat de AI-agent toegang had, hadden ze hem simpelweg uit kunnen zetten. Maar Hubert vermoedt dat ze het programma hebben aangezet en daarna naar huis zijn gegaan.

'Geen complexe hack'

Hoe het gedupeerde bedrijf werd gehackt, was ook niet bijzonder uniek, zegt Hubert. "De mensen die gehackt zijn, hebben een paar dagen geleden gezegd dat ze gehackt waren, maar niet wisten door wie. Maar ze zeiden ook: we zijn niet gehackt met bijzondere technieken. We zijn gehackt via een gelekt wachtwoord. Dat is helemaal niet bijzonder."

Het voordeel dat dit programma heeft ten opzichte van een menselijke hacker is dat het uren de tijd heeft. "Hij kan best wel oké hacken. Maar een van de spectaculaire dingen is dat de AI honderden uren per dag de tijd heeft. Waar een normale hacker moet slapen, kan de computer gewoon doorgaan en hij probeert ieder gaatje."

Daardoor kan er alsnog veel gehackt worden, zonder dat het een complexe hack hoeft te zijn.