De Europese privacyorganisatie noyb heeft vijf klachten ingediend tegen Scale AI, het bedrijf achter het platform Outlier. Volgens de organisatie worden freelancers die AI-modellen trainen op ingrijpende wijze gevolgd en moeten zij herhaaldelijk persoonlijke en biometrische gegevens verstrekken. Een klacht is nog geen bewijs van een overtreding, maar de zaak legt een fundamentele vraag bloot: hoe worden de mensen behandeld die het mogelijk maken dat kunstmatige intelligentie steeds slimmer lijkt te worden?

Wanneer iemand ChatGPT een vraag stelt, ziet die gebruiker doorgaans alleen het eindresultaat: een antwoord dat binnen enkele seconden verschijnt. Achter dat antwoord gaat echter een omvangrijke productieketen schuil.

AI-modellen worden getraind met grote hoeveelheden gegevens. Mensen beoordelen antwoorden, vergelijken verschillende versies, schrijven voorbeeldteksten, classificeren informatie en geven aan welke resultaten beter of slechter zijn. Dat menselijke werk helpt ontwikkelaars om AI-systemen bruikbaarder, veiliger en nauwkeuriger te maken.

Een deel van dat werk wordt uitgevoerd door freelancers die via digitale platforms opdrachten aannemen. Eén van die platforms is Outlier, dat wordt geëxploiteerd door Scale AI.

Op 27 oktober 2026 maakte de Europese privacyorganisatie noyb bekend vijf klachten tegen Scale AI te hebben ingediend in Frankrijk, Italië, Nederland en Oostenrijk. De klachten gaan onder meer over tracking tijdens het werk, biometrische identiteitscontroles en de afhandeling van verzoeken waarmee werknemers hun persoonlijke gegevens willen inzien.

Volgens Reuters en de klachtinformatie van noyb zijn meer dan 900.000 freelancers bij het platform betrokken. Dat cijfer is afkomstig uit de berichtgeving over het platform en betekent niet dat al deze mensen tegelijkertijd werken of allemaal dezelfde werkomstandigheden hebben.

De zaak is belangrijk omdat ze de aandacht verlegt van de AI-modellen zelf naar de arbeidsomstandigheden achter die modellen. Wie profiteert van de groei van kunstmatige intelligentie? Welke controle hebben werknemers over hun gegevens? En hoeveel digitale monitoring is redelijk wanneer iemand via een online platform geld probeert te verdienen?

Wat doen de mensen die AI trainen?

Een AI-model leert niet op dezelfde manier als een menselijke leerling. Het wordt met grote hoeveelheden gegevens en rekenwerk ontwikkeld en vervolgens op verschillende manieren aangepast om bruikbare resultaten te produceren.

Menselijke feedback kan daarbij een belangrijke rol spelen.

Stel dat een model twee antwoorden op dezelfde vraag produceert. Een menselijke beoordelaar kan aangeven welk antwoord duidelijker is, welke informatie ontbreekt of welke versie een veiligheidsprobleem oplevert.

Andere taken kunnen bestaan uit het schrijven van voorbeeldgesprekken, het controleren van feitelijke beweringen, het classificeren van afbeeldingen of het beoordelen van code.

Dit werk is vaak gespecialiseerd. Voor medische, juridische of technische opdrachten kan specifieke kennis nodig zijn. Tegelijkertijd kunnen sommige taken sterk repetitief zijn en onder tijdsdruk worden uitgevoerd.

De kwaliteit van deze menselijke beoordelingen kan invloed hebben op de kwaliteit van de uiteindelijke AI-toepassing. Een model wordt immers mede gevormd door de voorbeelden, beoordelingen en correcties die tijdens het ontwikkelproces worden gebruikt.

Toch blijven de mensen die dit werk uitvoeren vaak buiten beeld wanneer technologiebedrijven hun nieuwste modellen presenteren.

De consument ziet een product dat intelligent lijkt. De arbeidsketen die heeft geholpen om dat product te ontwikkelen, blijft meestal verborgen achter de interface.

Wat wordt Scale AI verweten?

Volgens noyb kunnen tijdens het gebruik van Outlier meerdere trackingmechanismen actief zijn. De organisatie stelt dat tot negentien trackers gegevens kunnen verzamelen, waaronder informatie over toetsaanslagen en muisbewegingen die met regelmatige tussenpozen worden geregistreerd.

De klacht stelt dat zulke gegevens het mogelijk kunnen maken om een werksessie achteraf vrijwel als een video te reconstrueren. Noyb maakt daarnaast bezwaar tegen de manier waarop freelancers zich moeten identificeren. Volgens de organisatie moeten werknemers identiteitsdocumenten uploaden en video’s van hun gezicht aanleveren via verificatiebedrijf Persona.

Ook stelt noyb dat sommige werknemers geen antwoord hebben gekregen op verzoeken om hun persoonlijke gegevens in te zien.

Het gaat hier om aantijgingen die door de bevoegde toezichthouders moeten worden onderzocht. Op het moment van de berichtgeving was er geen definitieve uitspraak waarin de vermeende overtredingen waren vastgesteld. Reuters meldde dat Scale AI niet onmiddellijk reageerde op een verzoek om commentaar.

Dat onderscheid is essentieel. Een privacyklacht is een formele stap om mogelijk onrechtmatig gedrag te laten onderzoeken, geen definitief oordeel over de schuld van een bedrijf.

Maar de vragen die de klacht oproept, zijn wel degelijk relevant voor de bredere discussie over digitale arbeid.

Wanneer verandert kwaliteitscontrole in surveillance?

Digitale platforms hebben legitieme redenen om bepaalde informatie te verzamelen. Ze moeten bijvoorbeeld fraude voorkomen, betalingen verwerken, opdrachten verdelen en controleren of werk aan de gestelde eisen voldoet.

Een opdrachtgever kan bovendien willen weten of iemand een opdracht daadwerkelijk heeft uitgevoerd en of het resultaat bruikbaar is.

Het probleem ontstaat wanneer de gegevensverzameling verder gaat dan noodzakelijk is voor dat doel.

Een systeem dat registreert of een taak is voltooid, heeft niet automatisch een rechtvaardiging om alle bewegingen van een werknemer te volgen. En een identiteitscontrole die nodig is om fraude tegen te gaan, betekent niet vanzelf dat herhaalde gezichtscontroles zonder duidelijke uitleg gerechtvaardigd zijn.

De centrale vraag is proportionaliteit: welke informatie is werkelijk nodig, welk risico wordt ermee aangepakt en bestaan er minder ingrijpende alternatieven?

Dat is geen abstract juridisch detail. Het bepaalt hoeveel controle een werknemer over zijn digitale werkomgeving heeft.

Bij traditioneel werk kunnen werkgevers ook toezicht houden, maar er bestaan regels, afspraken en in veel gevallen procedures voor het gebruik van werknemersgegevens. Bij online platformwerk kan de verhouding anders liggen. Werknemers werken op afstand, de opdrachtgever is mogelijk in een ander land gevestigd en het platform bepaalt grotendeels welke opdrachten beschikbaar zijn.

Daardoor kan het voor een freelancer moeilijk zijn om te onderhandelen over de voorwaarden.

Waarom de positie van freelancers kwetsbaar kan zijn

Een freelancer kan formeel vrij zijn om opdrachten te accepteren of te weigeren. In de praktijk hangt de werkelijke vrijheid mede af van de beschikbare opdrachten, het inkomen dat iemand nodig heeft en de alternatieven die er zijn.

Als een platform veel werk verdeelt en toegang tot opdrachten afhankelijk is van automatische controles, kan een gebruiker het gevoel krijgen dat hij vrijwel alles moet accepteren om zijn positie te behouden.

Dat betekent niet dat iedere platformwerker wordt uitgebuit of dat iedere vorm van monitoring onrechtmatig is. De omstandigheden verschillen per platform, taak en contract.

Wel is het belangrijk om te onderzoeken hoeveel invloed werknemers werkelijk hebben op de regels waaronder ze werken.

Een platform kan bijvoorbeeld zeggen dat monitoring nodig is om de kwaliteit te waarborgen. Maar als werknemers niet begrijpen welke gegevens worden verzameld, hoe lang die worden bewaard of hoe de informatie hun toegang tot opdrachten beïnvloedt, wordt het moeilijk om de redelijkheid van die voorwaarden te beoordelen.

Transparantie moet daarom meer betekenen dan een lange privacyverklaring die gebruikers bij aanmelding accepteren. Werknemers moeten in begrijpelijke taal kunnen achterhalen wat er gebeurt en welke keuzes ze hebben.

De rol van biometrische gegevens

Biometrische verificatie verdient bijzondere aandacht omdat het gaat om gegevens die met lichamelijke kenmerken van een persoon verband houden.

Een identiteitsdocument kan informatie bevatten over iemands naam, geboortedatum en nationaliteit. Een gezichtsopname kan daarnaast worden gebruikt voor identificatie, afhankelijk van de techniek en het doel van de verwerking.

Onder de AVG gelden specifieke regels voor biometrische gegevens wanneer die worden verwerkt met het oog op unieke identificatie. Niet iedere foto of video is automatisch een bijzondere categorie biometrische persoonsgegevens in de juridische betekenis, maar het doel en de technische verwerking zijn bepalend.

Daarom is het onvoldoende om alleen te zeggen dat een gezichtscontrole fraudepreventie dient. Een organisatie moet kunnen uitleggen welke verwerking plaatsvindt, op welke rechtsgrond die berust en waarom de gekozen methode noodzakelijk is.

Een minder ingrijpende verificatiemethode kan in sommige omstandigheden voldoende zijn. In andere situaties kan aanvullende controle gerechtvaardigd zijn. Dat moet per geval worden beoordeeld.

Noyb stelt dat de verificatiepraktijken van Outlier te ver gaan. De uitkomst van het onderzoek zal moeten uitwijzen hoe de feitelijke verwerking zich verhoudt tot de Europese regels.

Waarom dit Nederlandse werknemers aangaat

De klacht in Nederland maakt de kwestie direct relevant voor de Nederlandse privacypraktijk. Het gaat niet alleen om de voorwaarden van een internationaal technologiebedrijf, maar ook om de vraag hoe Europese gegevensbeschermingsregels worden toegepast op digitaal platformwerk.

De Autoriteit Persoonsgegevens kan, binnen haar bevoegdheden, onderzoek doen naar klachten over de verwerking van persoonsgegevens. Bij grensoverschrijdende kwesties kunnen ook andere Europese toezichthouders betrokken zijn.

Voor werknemers is het belangrijk te weten dat de AVG rechten biedt rond persoonsgegevens. Afhankelijk van de omstandigheden kunnen mensen bijvoorbeeld verzoeken om inzage in gegevens die een organisatie over hen verwerkt, vragen om correctie van onjuiste gegevens of bezwaar maken tegen bepaalde verwerkingen.

Die rechten betekenen niet dat iedere gegevensverzameling onmiddellijk moet stoppen zodra iemand bezwaar maakt. De organisatie moet het verzoek beoordelen binnen de geldende juridische regels en termijnen.

De kwestie laat vooral zien waarom werknemers hun positie moeten kunnen begrijpen. Wanneer een platform beslissingen neemt op basis van gegevens die werknemers niet kunnen inzien of corrigeren, ontstaat een machtsverschil dat moeilijk te controleren is.

Wie draagt verantwoordelijkheid voor de AI-keten?

De AI-industrie bestaat niet uit één bedrijf dat alles zelf doet. Modelontwikkelaars, aanbieders van trainingsplatforms, cloudbedrijven, klanten en individuele freelancers vervullen verschillende rollen.

Die verdeling kan efficiënt zijn, maar maakt het soms moeilijk om verantwoordelijkheid vast te stellen wanneer er iets misgaat.

Een bedrijf dat een AI-model ontwikkelt, kan een deel van het werk uitbesteden. Het platform dat de opdrachten verdeelt, kan trackingsoftware gebruiken. Een externe dienstverlener kan identiteiten controleren. De klant ontvangt uiteindelijk de resultaten.

Voor werknemers kan het daardoor onduidelijk zijn bij welke partij ze terechtkunnen met vragen over hun gegevens.

Dat is een reden om de verantwoordelijkheden in de keten duidelijk vast te leggen. Wie bepaalt welke gegevens worden verzameld? Wie heeft toegang tot de resultaten? Wie reageert op verzoeken om inzage? En welke partij is verantwoordelijk wanneer gegevens onrechtmatig worden verwerkt?

Dit zijn vragen die niet verdwijnen doordat werk via meerdere bedrijven wordt georganiseerd.

Mijn oordeel: AI mag niet worden gebouwd op een ondoorzichtige arbeidsketen

Het is terecht dat AI-bedrijven kwaliteitscontrole uitvoeren. Zonder menselijke beoordeling zouden bepaalde modellen moeilijker te trainen en te verbeteren zijn. Maar dat rechtvaardigt niet automatisch iedere vorm van toezicht op de mensen die het werk uitvoeren.

Ik vind dat de industrie dezelfde zorgvuldigheid moet toepassen op haar arbeidsketen als zij van haar producten verwacht. Wanneer een bedrijf AI inzet om nauwkeuriger beslissingen te nemen, zou het ook nauwkeurig moeten kunnen uitleggen waarom werknemers bepaalde persoonlijke gegevens moeten delen.

De belangrijkste norm zou moeten zijn dat monitoring aantoonbaar noodzakelijk en proportioneel is, dat werknemers begrijpen wat er gebeurt en dat ze hun rechten daadwerkelijk kunnen uitoefenen.

Ook opdrachtgevers die AI-trainingswerk inkopen, zouden vragen moeten stellen over de manier waarop hun leveranciers met werknemers omgaan. Goedkope trainingsdata zijn niet noodzakelijk een goede deal wanneer de lage kosten afhankelijk zijn van ondoorzichtige of disproportionele controle.

Dat is geen oproep om AI-training stil te leggen. Het is een oproep om de menselijke kant van AI serieus te nemen.

Conclusie: de mensen achter AI verdienen dezelfde digitale bescherming

De klachten tegen Scale AI laten zien dat de ontwikkeling van AI niet alleen draait om betere modellen en snellere computers. Er zijn ook mensen nodig die opdrachten uitvoeren, antwoorden beoordelen en gegevens verwerken.

Als die werknemers worden gevolgd op een manier die mogelijk in strijd is met Europese privacyregels, moet dat onafhankelijk worden onderzocht.

De beschuldigingen zijn nog niet definitief vastgesteld. Maar het principe is duidelijk: digitale arbeid mag niet buiten de bescherming vallen die werknemers en burgers in Europa behoren te hebben.

AI kan alleen verantwoord groeien wanneer niet alleen de eindgebruiker en de opdrachtgever worden beschermd, maar ook de mensen die de technologie helpen bouwen.