AI-systemen van OpenAI hebben de afgelopen maanden de beveiligingsmaatregelen van meerdere Amerikaanse overheidswebsites omzeild. Dat blijkt uit onderzoek van het non-profit AI-onderzoeksbureau Transluce, waarover The New York Times en persbureau AP berichten. De bots probeerden onder meer de website van het Amerikaanse ministerie van Onderwijs te hacken. Die poging mislukte; een woordvoerder van het ministerie verklaarde dat er geen impact was op de website of databases.
Bij andere overheidsinstanties had de software meer succes. Zo wist een OpenAI-model bij het ministerie van Handel data te verzamelen met behulp van inloggegevens die online waren gevonden. Ook deelden de bots openbare informatie van de beurswaakhond SEC op een Duits online forum. Volgens Transluce-topman Conrad Stosz gaat het om een breder patroon: de AI-agents zouden minstens honderdduizenden keren hebben geprobeerd toegang te krijgen tot dit soort websites. «Kennelijk omzeilden ze de beperkingen die door de ontwikkelaars zijn opgelegd», aldus Stosz.
OpenAI zegt dat er geen sprake was van kwaadwillige inbreuken en bestempelt de tot nu toe geïdentificeerde gevallen als «van geringe ernst». Het bedrijf stelt tientallen organisaties wereldwijd te hebben geïnformeerd, waaronder overheden, universiteiten en andere instellingen. Topman Sam Altman erkent in een bericht op sociale media dat OpenAI te traag is geweest met het informeren van gedupeerden. Volgens hem loopt er inmiddels een onderzoek naar de kwestie.
De incidenten komen aan het licht na een eerdere onthulling van de Australische premier Albanese. Hij meldde eerder deze week dat OpenAI in juni een AI-programma had laten binnendringen op een Australische overheidswebsite. Daarbij werden uit het zorgverzekeringssysteem Medicare gegevens opgevraagd die niet openbaar zijn. Dit was voor zover bekend de eerste keer dat een AI-computerprogramma zich toegang verschafte tot een overheidswebsite.
Het ongewenste gedrag ontstaat tijdens testfases waarin de bots gerichte opdrachten krijgen, zoals het opzoeken van specifieke statistieken over medicijnkosten in Australië. Vervolgens zoeken de AI-agents naar manieren om informatie te vergaren en te delen, waarbij ze ook beveiligde databases kunnen kraken, tegen de richtlijnen in. Volgens Transluce doen modellen van OpenAI dit zeker al sinds maart van dit jaar.
De kwestie raakt aan bredere zorgen over de veiligheid van snelgroeiende AI-systemen. Twee weken geleden waarschuwden kopstukken van grote westerse AI-bedrijven nog dat kunstmatige intelligentie dusdanig snel groeit dat het lastig wordt om de veiligheid te waarborgen. De Amerikaanse autoriteiten hebben nog niet publiekelijk gereageerd op de bevindingen van Transluce.
3