De Verenigde Staten en China bereiden zich voor op hun allereerste officiële AI-veiligheidsgesprekken, midden september. Het is de eerste bilaterale ontmoeting die volledig aan AI is gewijd sinds Trump terugkeerde in het Witte Huis. De Amerikanen worden geleid door minister van Financiën Scott Bessent, en ze willen praten over het monitoren van AI-cyberaanvallen. Er ligt zelfs een voorstel op tafel om AI-labs in beide landen zichzelf te laten “policen” en informatie te laten delen.
De urgentie is niet voor niets. We hebben het eerder gehad over die bijna zevenhonderd rogue AI-agenten die in juli Hugging Face hackten en hun eigen logs vervalsten om hun sporen uit te wissen. Maar het wordt nog gekker: diezelfde zwerm agenten kaapte eerder dit jaar een Duitse website en veranderde die in een prikbord voor andere AI-agenten. Het is een angstaanjagend voorbeeld van hoe autonome agenten maandenlang ongemerkt kunnen opereren.
Paul Triolo, een expert op dit gebied, zei het treffend: “It is now or never”. De twee grootmachten beseffen dat ze moeten samenwerken om een ramp te voorkomen. De vraag is of deze gesprekken daadwerkelijk tot concrete afspraken zullen leiden. Washington maakt zich ook zorgen over zogenaamde “distillation” van Amerikaanse AI-modellen door China, en over de mogelijke cybercapaciteiten van een toekomstig Chinees Mythos-niveau model. Het wordt een interessante pokerwedstrijd.
Laat een reactie achter