Er wordt wel gezegd dat de waarheid het eerste slachtoffer wordt in een oorlog zoals die tussen Rusland en Oekraïne, waarin beide landen manipulatieve deepfakes inzetten voor de verspreiding van nepnieuws.
Onlangs dook er een neppe video op met de Oekraïense president Volodymyr Zelensky, waarin het door deepfake-manipulatie lijkt alsof de president de Oekraïners oproept zich over te geven aan de Russen.
De gemanipuleerde video van president Zelensky is, net als alle kopieën, verwijderd van YouTube. Dit is een bewerkte versie van The Telegraph.
Eerder heeft Oekraïne ook zelf een soort satirische deepfake gecreëerd waarin de Russische president Vladimir Poetin verkondigt dat hij de meeste gehate man ter wereld is en iedereen aanspoort om Oekraïne te steunen.
Deepfake met AI-motor
Toegegeven, deze eerste vervalste video’s uit de oorlog zijn niet echt geloofwaardig voor een ervaren internetgebruiker. Maar dat kan nog komen.
Want na een stroeve start in de jaren 1990 werd de deepfake-technologie met AI als drijvende kracht snel beter, waardoor het nu lijkt alsof bekende personen echt obscure boodschappen verkondigen.
Het basisprincipe achter video’s met een personage met eenzelfde uiterlijk en stem als het beroemde slachtoffer is dat de AI enorme hoeveelheden foto’s en video’s van het slachtoffer moet leren.
Zo wordt het systeem getraind in patroonherkenning in onder meer gezichtsvorm en bewegingen.
Daarna wordt een nieuwe video opgenomen – maar nu de neppe versie.
Aan die nieuwe video worden met AI kenmerkende trekjes toegevoegd, waarbij handmatig gestuurd wordt hoe het uiteindelijke deepfakefilmpjes eruit zal zien.
Pas als de lichaams-, oog- en mondbewegingen kloppen, wordt de stem met behulp van een computer nagemaakt.
Als de maker heel goed is, kan de deepfake heel echt lijken. Een Duitse directeur verloor in 2019 tweehonderdduizend euro toen oplichters zijn stem kopieerden en daarmee een collega aan de telefoon zo gek kregen dat bedrag over te maken naar een Hongaarse leverancier.
De acteur Tom Cruise komt voor in een hele serie deepfakes. In dit filmpje is hij een neppe presidentskandidaat voor de verkiezingen van 2020.
Zo herken je deepfake
Naast technische trucjes werkt deepfake ook door middel van jouw opvatting van geluid en beeld, die je, in combinatie met je eigen geheugen, goed kan bedriegen.
Eerdere Brits-Amerikaanse studies hebben laten zien dat tot wel 85 procent van ons leervermogen en inzichten voortkomt uit wat we zien en in het verleden visueel hebben waargenomen.
Maar slechts 20 procent van onze visuele indrukken komt door informatie vanuit de ogen. De rest komt van de hersenen zelf, vooral de temporale kwab, waar onze herinneringen zitten.
Onze visie bestaat dus niet alleen uit waarnemingen van de ogen, maar uit een combinatie van wat we zien, ooit hebben gezien en denken dat we zien.
We zijn dus doorgaans geneigd om blindelings te geloven in informatie die onze bestaande opvattingen van de wereld bevestigen of onze vooroordelen en verwachtingen ondersteunen.
Die ‘confirmation bias’ maakt ons kwetsbaar voor deepfakes.
Zo herken je deepfakes
Hou deze eigenschappen in de gaten om te herkennen of een video een deepfake is:
Veranderingen in belichting
Extra of opvallende pixels
Plotselinge schokken en bewegingen
Ongewone en veranderende huidskleur
Slechte synchronisering van geluid, lippen en ogen
Wazige delen op de persoon of achtergrond
TEST JEZELF:
Kun jij de technische foutjes in dit deepfakefilmpje van Tom Cruise uit begin 2022 vinden?