AI kan inmiddels zeer overtuigende gezichten, stemmen en video’s genereren. Dat opent creatieve mogelijkheden, maar maakt ook fraude en identiteitsmisbruik makkelijker.

Een onderzoek van wetenschappers aan UCLA, besproken door ScienceDaily op 1 oktober, beschrijft een lichtgebaseerde methode om deepfakevideo’s te herkennen. Volgens het onderzoeksbericht behaalde het systeem bijna 98 procent nauwkeurigheid in de onderzochte tests en kon het meerdere video’s tegelijk analyseren.

Waarom licht gebruiken voor AI?

Bij fotonische computers wordt licht gebruikt om bepaalde berekeningen uit te voeren. Dat kan voor sommige toepassingen zeer snel en energiezuinig zijn.

De gedachte achter dit onderzoek is dat een optisch systeem bepaalde patronen in video’s kan helpen herkennen zonder dat daarvoor altijd enorme hoeveelheden conventionele rekenkracht nodig zijn.

Maar 98 procent nauwkeurigheid betekent niet dat het systeem elke deepfake ter wereld betrouwbaar kan herkennen. De uitkomst hangt onder andere af van de gebruikte testdata, de soorten vervalsingen en de vraag of het systeem nieuwe technieken al kent.

De strijd tegen nepbeelden wordt dus een technologische race: generatieve AI wordt beter in het maken van synthetische media, terwijl onderzoekers nieuwe manieren ontwikkelen om de echtheid ervan te controleren.