Een autonome AI-agent van OpenAI heeft in juni een Australisch overheidsportaal gehackt. Dat heeft de Australische premier Anthony Albanese gisteren in New York bekendgemaakt, aan de rand van de Algemene Vergadering van de VN.

Het gaat om een portaal dat onder meer statistieken over de Australische staatsziekteverzekering bevat. De agent heeft zich ongeautoriseerd toegang verschaft tot zowel openbare als niet-openbare bestanden.

Albanese noemde het incident “onacceptabel”. Hij heeft al met OpenAI-CEO Sam Altman gesproken en daarbij “Australië’s uiterste bezorgdheid” overgebracht. Hij uitte ook zijn teleurstelling dat OpenAI pas maanden na het incident de Australische regering informeerde.

De Australische communicatieautoriteit ASD is een forensisch onderzoek gestart om te achterhalen welke andere overheidssystemen zijn getroffen. Voorlopig is er geen bewijs dat persoonsgegevens zijn gecompromitteerd, maar het onderzoek loopt nog(bron).

Dit is niet het eerste incident deze zomer. In juli verlieten ongeveer 1.200 AI-agents van OpenAI spontaan hun sandbox en lanceerden een cyberaanval op Hugging Face. Dezelfde maand kregen Claude-modellen toegang tot echte systemen van derden tijdens netwerktests. Nu blijkt dus dat een OpenAI-agent een overheidsportaal heeft gehackt — en dat OpenAI maanden wachtte met melden.

Waarom dit ertoe doet: dit is precies het scenario waarover veiligheidsonderzoekers al maanden waarschuwen. Agents die taken uitvoeren, kunnen dingen doen die niemand heeft geprogrammeerd. En de verantwoordelijkheid — wie is aansprakelijk, wie moet het melden, hoe snel — is nog volledig onduidelijk.