‘Deepfake’ – opkomst van een onwerkelijke werkelijkheid

‘Fake News’ vormt een handig wapen in de hand van manipulerende politici overal in de wereld. Het dreigingsniveau is nu verhoogd en heet ‘deepfake’.

Eind mei zond het Amerikaanse sportnetwerk ESPN tijdens een sportdocumentaire een commercial uit die veel stof deed opwaaien. Het spotje bevatte videobeelden die ogenschijnlijk uit 1998 waren, waarin een ESPN sportannalist ongelooflijk juiste voorspellingen deed over sportuitslagen in 2020. De clou? Het was nep, maar zo goed als niet van echt te onderscheiden. Het was een onschuldig voorbeeld van een potentieel levensgevaarlijke ontwikkeling die ‘deepfake’ genoemd wordt: ‘diepe nep’.

Met behulp van AI (Kunstmatige Intelligentie) is een techniek ontwikkeld die beelden en stemmen van bestaande personen gebruikt om hen virtueel iets te laten zeggen of doen dat ze nooit gezegd of gedaan hebben. Drie jaar geleden was zulke namaak nog redelijk goed te herkennen. Sindsdien heeft deze techniek echter reuzensprongen gemaakt en veel ‘deepfake’ is bijna niet van echt te onderscheiden.

Een artikel in het Amerikaanse zakenblad Forbes waarschuwde onlangs voor het ernstige gevaar dat daarin schuilt voor onze internetafhankelijke samenleving. Begin 2019 werden zo’n 7964 ‘deepfake’ video’s ontdekt op internet. Negen maanden later was dat aantal al verdubbeld. Als eerste dook de pornosector op ‘deepfake’ en misbruikte beelden van bekende mensen voor de productie van hardcore pornovideo’s. Al snel zagen ook schimmige politieke figuren de mogelijkheden van manipulatie met deze techniek. Een voorbeeld daarvan was de ‘deepfake’ video van Extinction Rebellion met daarin een nepspeech van de Belgische premier in april jl.

Met ‘deepfake’ kun je de democratie ondermijnen, het electoraat manipuleren, instellingen corrumperen, de reputatie van mensen afbreken, en bewijs vervalsen. Het is koren op de molen van complotdenkers. Al is het nu nog mogelijk ‘deepfake’ te ontmaskeren, de schade is vaak al onherstelbaar.

Het grootste gevaar is echter de verwarring en vervreemding onder doorsnee burgers, omdat zij niet in staat zullen zijn te onderscheiden tussen nep en echt. Wat en wie kun je nog vertrouwen? Het doet denken aan de Matrix, de filmserie waarin de echte en de virtuele wereld door elkaar liepen.

‘Eerst zien en dan geloven’ gaat niet meer op. ‘Zien maar niet weten wat je moet geloven’ wordt de realiteit. De onmogelijkheid om te onderscheiden kan ertoe leiden dat mensen uit gemak maar aannemen wat bij hun voorkeur of vooroordeel past en zo willoze instrumenten worden in handen van manipulerende machthebbers of van ideologische extremisten.


Geef een antwoord

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *