13 oktober 2026 · Bron: Reuters

AI-bedrijf Anthropic heeft nieuwe beveiligingsmaatregelen aangekondigd om pogingen tot het kopiëren van de mogelijkheden van zijn AI-modellen tegen te gaan. Volgens het bedrijf hebben de maatregelen het risico op bepaalde aanvallen met ongeveer 90 tot 99 procent verminderd. Dat percentage is een claim van Anthropic, zoals gerapporteerd door Reuters.

Wat is een AI-distillatieaanval?

AI-distillatie is een techniek waarbij ontwikkelaars een kleiner of goedkoper model trainen met behulp van de antwoorden van een krachtiger model.

Dat kan een legitieme manier zijn om efficiëntere AI te bouwen. Het wordt problematisch wanneer iemand op grote schaal toegang tot een model gebruikt om de mogelijkheden ervan na te bootsen zonder toestemming.

Een aanvaller kan bijvoorbeeld duizenden of miljoenen vragen aan een AI-systeem stellen en de antwoorden gebruiken als trainingsmateriaal voor een concurrerend model.

Waarom willen AI-bedrijven dit voorkomen?

Het ontwikkelen van geavanceerde AI-modellen vraagt veel geld, computerkracht, onderzoek en technische expertise. Wanneer een concurrent de capaciteiten van zo’n model relatief eenvoudig kan nabootsen, kan dat de commerciële positie van de oorspronkelijke ontwikkelaar aantasten.

Er kunnen ook veiligheidsrisico’s ontstaan als beveiligingsmaatregelen of gespecialiseerde mogelijkheden op ongewenste wijze worden overgenomen.

Anthropic zegt dat zijn nieuwe maatregelen de hoeveelheid informatie die via dergelijke aanvallen kan worden verzameld sterk beperken.

Wat betekent dit voor AI-gebruikers?

Voor gewone gebruikers verandert er mogelijk weinig aan de dagelijkse bediening van een chatbot. De ontwikkeling is vooral relevant voor de beveiliging van AI-platforms en voor bedrijven die hun eigen modellen ontwikkelen.

Ook organisaties die AI-diensten aanbieden, moeten rekening houden met misbruik van hun systemen. Denk aan het herkennen van ongebruikelijke vraagpatronen, het beperken van geautomatiseerde toegang en het bewaken van gebruikslimieten.

Is het probleem daarmee opgelost?

Dat is niet aangetoond. De gemelde vermindering is afkomstig van Anthropic zelf en betekent niet dat iedere vorm van modelkopiëren is voorkomen. De effectiviteit hangt onder meer af van de gebruikte aanvalsmethode en de manier waarop de beveiliging wordt getest.

Voor Europese AI-bedrijven is dit onderwerp eveneens relevant. Zij willen hun eigen modellen en technische kennis beschermen, terwijl open onderzoek en samenwerking tegelijkertijd belangrijk blijven voor innovatie.

Bron: Reuters — Anthropic zegt dat nieuwe beveiliging aanvallen op AI-modellen sterk vermindert.