Nederlandse wetenschappers krijgen steeds vaker te maken met een nieuw probleem dat rechtstreeks voortkomt uit het gebruik van generatieve AI: verzonnen wetenschappelijke bronnen.
AI-systemen kunnen overtuigend klinkende citaten, auteurs en publicaties genereren die helemaal niet bestaan. Het probleem wordt inmiddels ook in Nederlandse wetenschappelijke publicaties en onderzoek zichtbaar, meldt de NOS op basis van onderzoek naar zogenoemde “spookcitaten”.
De ontwikkeling raakt een van de fundamenten van wetenschappelijk onderzoek: de mogelijkheid om claims terug te leiden naar controleerbare bronnen.
Een overtuigende bron die niet bestaat
Generatieve AI is bijzonder goed in het produceren van teksten die er geloofwaardig uitzien.
Dat geldt ook voor bibliografische informatie.
Wanneer een gebruiker vraagt om wetenschappelijke bronnen over een bepaald onderwerp, kan een AI-systeem een lijst produceren met titels, auteurs, jaartallen en tijdschriften.
Het probleem ontstaat wanneer sommige van die gegevens verzonnen zijn.
De bron ziet er wetenschappelijk uit, maar bestaat niet.
Voor een gebruiker die de referenties niet controleert, kan het verschil nauwelijks zichtbaar zijn.
Waarom dit in de wetenschap extra gevoelig ligt
Wetenschappelijk onderzoek is gebaseerd op controleerbaarheid.
Een onderzoeker doet een claim en verwijst naar eerdere literatuur. Andere onderzoekers kunnen die publicaties vervolgens lezen en beoordelen.
Wanneer een AI-systeem fictieve bronnen introduceert, wordt die keten doorbroken.
Een verzonnen bron kan vervolgens opnieuw worden overgenomen door andere onderzoekers.
Daarmee kan een fout zich vermenigvuldigen.
AI hoeft daarvoor niet opzettelijk verkeerde informatie te produceren. Het systeem voorspelt tekst op basis van patronen en kan daarbij een plausibel klinkende referentie genereren zonder daadwerkelijk te weten of de publicatie bestaat.
Het probleem raakt ook historisch onderzoek
Het verschijnsel blijft niet beperkt tot wetenschappelijke artikelen.
Ook Nederlandse archieven waarschuwen voor AI bij genealogisch en historisch onderzoek.
Het Drents Archief heeft gemeld dat mensen soms met behulp van AI onderzoek doen en vervolgens documenten of namen opvragen die niet blijken te bestaan.
Dat kan vooral problematisch zijn bij familieonderzoek.
Een AI-systeem kan bijvoorbeeld een historische persoon combineren met een bestaande plaatsnaam en een geloofwaardige gebeurtenis verzinnen.
Voor iemand die weinig ervaring heeft met archiefonderzoek kan zo’n verhaal overtuigend lijken.
AI verandert daarmee ook de rol van de onderzoeker
De traditionele rol van een onderzoeker was onder meer het zoeken, selecteren en beoordelen van bronnen.
Generatieve AI kan een deel van dat werk versnellen.
Maar daardoor wordt broncontrole juist belangrijker.
Een onderzoeker die AI gebruikt voor literatuuronderzoek moet niet alleen beoordelen of een tekst logisch klinkt.
Elke belangrijke bron moet daadwerkelijk bestaan en inhoudelijk overeenkomen met de claim waarvoor hij wordt gebruikt.
Dat kan betekenen dat AI uiteindelijk tijd bespaart bij het zoeken, maar extra tijd vraagt bij verificatie.
Wetenschappelijke uitgevers reageren
Het probleem heeft inmiddels ook internationale gevolgen voor wetenschappelijke uitgevers.
Steeds meer tijdschriften stellen regels op rond het gebruik van generatieve AI.
Daarbij gaat het niet alleen om de vraag of AI mag worden gebruikt om teksten te schrijven.
Ook transparantie over het gebruik van AI en verantwoordelijkheid voor de uiteindelijke inhoud worden belangrijker.
Een AI-systeem kan immers geen wetenschappelijke verantwoordelijkheid dragen.
De menselijke auteur blijft verantwoordelijk voor de inhoud en de bronnen.
Nederlandse wetenschap staat niet los van internationale trend
Het Nederlandse probleem is onderdeel van een bredere ontwikkeling.
Generatieve AI wordt wereldwijd gebruikt door studenten, onderzoekers en wetenschappelijke instellingen.
De snelheid waarmee AI teksten kan produceren zorgt ervoor dat traditionele controlesystemen onder druk komen te staan.
Een onderzoeker kan in korte tijd een volledig literatuuroverzicht laten genereren.
Maar wanneer honderden referenties moeten worden gecontroleerd, blijft menselijke verificatie noodzakelijk.
De paradox van AI in onderzoek
Daarmee ontstaat een opvallende paradox.
AI kan wetenschappelijk werk versnellen, maar kan tegelijkertijd nieuwe fouten introduceren die zonder AI nauwelijks zouden bestaan.
De technologie maakt het gemakkelijker om informatie te verzamelen en teksten te produceren.
Maar ze maakt het ook gemakkelijker om overtuigend klinkende onjuiste informatie te verspreiden.
De komende jaren zal wetenschappelijke AI-geletterdheid daarom waarschijnlijk net zo belangrijk worden als traditionele onderzoeksvaardigheden.
Niet alleen leren hoe je AI gebruikt, maar vooral leren wanneer je AI niet moet vertrouwen zonder controle wordt een essentieel onderdeel van modern onderzoek.
Laat een reactie achter