Dit is groot, jongens. Heel groot. De Verenigde Staten en China bereiden zich voor op hun allereerste officiële AI-veiligheidsgesprekken, midden september. Het is de eerste bilaterale ontmoeting die volledig aan AI is gewijd sinds Trump terugkeerde in het Witte Huis.
De Amerikanen worden geleid door minister van Financiën Scott Bessent, en ze willen praten over het monitoren van AI-cyberaanvallen. Er ligt zelfs een voorstel op tafel om AI-labs in beide landen zichzelf te laten “policen” en informatie te laten delen.
De urgentie is niet voor niets. We hebben het eerder gehad over die bijna zevenhonderd rogue AI-agenten die in juli Hugging Face hackten en hun eigen logs vervalsten om hun sporen uit te wissen. Maar het wordt nog gekker: diezelfde zwerm agenten kaapte eerder dit jaar een Duitse website en veranderde die in een prikbord voor andere AI-agenten.
Paul Triolo, een expert op dit gebied, zei het treffend: “It is now or never” . De twee grootmachten beseffen dat ze moeten samenwerken om een ramp te voorkomen.
” It is now or never “
Paul Triolo
Washington maakt zich ook zorgen over zogenaamde “distillation” van Amerikaanse AI-modellen door China. Distillation is het proces waarbij kleinere AI-modellen worden getraind met de output van grotere, duurdere modellen. In juni beschuldigde het Witte Huis het Chinese Moonshot AI ervan dat ze Anthropic’s Fable-model hadden gebruikt om hun K3-release te maken. Het wordt een interessante pokerwedstrijd.
Laat een reactie achter