13 oktober 2026 · Bron: Reuters

Een belangrijke discussie in de AI-sector gaat over de onafhankelijkheid van onderzoekers die krachtige AI-systemen testen. Volgens een nieuw Reuters-onderzoek zijn Anthropic en OpenAI in gesprek met externe beoordelaars over de voorwaarden waaronder zij hun onderzoeksresultaten mogen publiceren.

De centrale vraag is eenvoudig: kunnen onderzoekers werkelijk onafhankelijk rapporteren wanneer het bedrijf dat zij onderzoeken invloed heeft op hun toegang tot het systeem en op de informatie die uiteindelijk openbaar wordt?

Waarom zijn onafhankelijke tests nodig?

Geavanceerde AI-modellen kunnen veel nuttige taken uitvoeren, maar onderzoekers willen ook weten hoe ze reageren op risicovolle opdrachten, hoe kwetsbaar ze zijn voor cyberaanvallen en of ze veiligheidsmaatregelen kunnen omzeilen.

Onafhankelijke beoordelaars kunnen proberen zwakke punten te vinden voordat die tot grotere problemen leiden.

Daarvoor hebben zij soms toegang nodig tot interne documentatie, technische informatie of gecontroleerde testomgevingen.

Waar zit het probleem?

AI-bedrijven willen hun bedrijfsgeheimen en intellectuele eigendom beschermen. Tegelijkertijd kunnen de resultaten van veiligheidstests juist informatie bevatten die voor het publiek, klanten en toezichthouders van belang is.

Reuters beschrijft gesprekken over maatregelen zoals toezicht tijdens bepaalde tests, beperkingen op het delen van vertrouwelijke informatie en afspraken over de publicatie van onderzoeksrapporten.

Anthropic stelt tegenover Reuters dat externe beoordelaars bij bestaande samenwerkingen controle kunnen houden over hun methoden, conclusies en publicaties. OpenAI zegt dat het vertrouwelijke informatie kan afschermen, maar niet de volledige tekst van onafhankelijke rapporten wil goedkeuren.

De precieze afspraken verschillen per samenwerking.

Waarom is dit relevant voor Europa?

De Europese AI-verordening stelt eisen aan bepaalde AI-systemen en algemene AI-modellen. Betrouwbare evaluaties kunnen helpen om risico’s te beoordelen en naleving te onderbouwen. Dat maakt de kwaliteit en onafhankelijkheid van onderzoek relevant voor Europese bedrijven, toezichthouders en gebruikers.

Toch is onafhankelijke evaluatie niet hetzelfde als wettelijke goedkeuring. Een positief testresultaat bewijst niet dat een model in iedere situatie veilig is.

Wat moet er volgens deskundigen gebeuren?

De discussie draait onder meer om heldere afspraken over toegang, publicatierechten, vertrouwelijkheid en de vrijheid van onderzoekers om kritische bevindingen naar buiten te brengen.

Als bedrijven zelf te veel invloed hebben op wat gepubliceerd mag worden, kan dat het vertrouwen in veiligheidstests verminderen. Aan de andere kant moeten beoordelaars zorgvuldig omgaan met gevoelige technische informatie die misbruikt zou kunnen worden.

Conclusie: naarmate AI-systemen krachtiger worden, wordt niet alleen de technologie belangrijker, maar ook de manier waarop onafhankelijke partijen de risico’s ervan kunnen onderzoeken.

Bron: Reuters — De discussie over onafhankelijke beoordelingen van AI-systemen.