Deepfakes vol goede bedoelingen

Het is ook een zogeheten “deepfake for good”. Niet een deepfake gemaakt met kwaadwillende bedoelingen, zoals bijvoorbeeld een deepnude, waarbij het gezicht van een beroemdheid op het lichaam van een pornoster wordt geplakt, maar deepfake-technologie die voor een goede zaak wordt ingezet. De deepfake van Soares is niet de eerste deepfake met goede bedoelingen. Inmiddels zijn er verschillende varianten in omloop: het is de deepfake van premier Mark Rutte die aandacht vraagt voor het klimaatprobleem, het is deepfake-therapie waarmee nabestaanden een interactief videogesprek met hun overleden dierbaren kunnen voeren om het verlies te verwerken, het is de voiceclone van de acteur Val Kilmer die zijn eigen stem heeft teruggekregen nadat hij deze verloren had aan de gevolgen van keelkanker, het is de deepfake van de overleden kunstenaar Salvador Dali die mensen door zijn eigen museum gidst, en laten we vooral David Beckham niet vergeten die door de technologie van Synthesia in staat is negen talen vloeiend te spreken. Het is slechts het topje van de ijsberg. We staan aan het begin van een tijdperk waarin we nog veel meer use cases van positieve (maar ook negatieve) deepfakes gaan meemaken.

Het directe gevolg is dat het onderscheid tussen echt en nep steeds meer vervaagt. Deze vervaging zien we ook op andere gebieden terug komen. Ook het onderscheid tussen feit en fictie verdwijnt steeds meer naar de achtergrond, waardoor de emotie het van de ratio wint. Het roept de vraag op wat nog “waar” is en wie je kunt vertrouwen. Dit weekend werd het waarheidsgehalte van het juicekanaal van Yvonne Coldeweijer door BNR getest. De omroep zette een filmpje van een “snuivende” Talitha Muusse in scène en stuurde het filmpje vanuit een anoniem Instagramaccount naar het juicekanaal. De video deelde Coldeweijer vervolgens op haar betaalde Telegramkanaal met de tekst ‘filmpje van een snuivende BN’er’. Bij de video vertelde ze: “Er was afgelopen maandag dus een afscheidsfeestje van een personeelslid van BNR. Wat gebeurde er nou? Op een gegeven moment hebben spionnen Talitha Muusse uit de wc zien komen. Zij deed daarbij heel erg opgefokt. Zij meende toen ook dat ze wat wit onder haar neus had. Dus wat hebben die spionnen nou gedaan. Ze zijn op een gegeven moment, toen ze weer naar de wc ging, achter haar aan gegaan. Zijn in het wc-hokje op de bril gaan staan en hebben haar gefilmd. En wat denk je? Dat filmpje hebben ze naar mij gestuurd. Lelijk, oh wat lelijk dit. Ik weet dat heel veel mensen snuiven, zeker bij de BN’ers, maar what the fuck! Maar Talitha, ook echt op een werkfeestje?!”

Coldeweijer was nog wel zo slim om een disclaimer aan haar ongefundeerde opmerkingen toe te voegen: “Talitha, ik moet je meegeven. In het filmpje zien we alleen je achterkant. Het zou natuurlijk kunnen dat je geframed wordt. Dat er mensen zijn die jou niet mogen. Dat een stand-in is ingehuurd en dat dit in scène is gezet. Mijn gevoel zegt dat jij het wel bent, maar ik moet toegeven dat jouw gezicht hier niet op staat. Ik denk dat de mensen die jou kennen, jou wel zullen herkennen. En dat is ontzettende lullig. Don’t do drugs!”

In een reactie liet Coldeweijer weten dat het niet aan haar is, om “te bewijzen dat iets 100% zeker waar is”. Ze stelt: “Ik moet laten zien dat het aannemelijk is. Als jij in een video stiekem bij de wastafel aan een sleutel snuift, acht ik het aannemelijk dat je daar coke gebruikt. Dat is toch logisch?” Ook bij Coldeweijer gaat het dus overduidelijk om de goede bedoelingen… Recentelijk werd het werk van Coldeweijer door de rechter als journalistiek gekwalificeerd. Met een van de basisregels, die van het toepassen van hoor-en-wederhoor, neemt ze het echter niet zo nauw. Factchecken is van ondergeschikt belang, ook bij Coldeweijer moet er immers brood op de plank. En iedere scheet aandacht die ze krijgt, dus ook negatieve publiciteit, speelt haar in de kaart.

Waar gaat dit spel tussen echt en nep dan eindigen? Egbert Dommering, emeritus hoogleraar Informatierecht aan de Universiteit van Amsterdam, stelt in een artikel voor het NRC vast dat “juridische kaders die wij voor die wereld in de jaren negentig van de vorige eeuw hebben ontworpen in de oude vorm niet langer bruikbaar zijn”. “De elektronische communicatiewereld is door het snel in omvang en kwaliteit expanderende internet de laatste twee decennia fundamenteel veranderd. De grens tussen privé en openbaar is vervaagd en daarmee ook de raakvlakken met het klassieke auteursrecht, de vrijheid van meningsuiting en de openbare rechtsorde”, schrijft hij. Wet-en regelgeving lopen achter op de technologische ontwikkelingen. En dit baart zorgen.

Iedereen heeft nu de mogelijkheid om zijn eigen waarheid, zijn eigen realiteit te creëren en deze te delen met gelijkgestemden. Het directe gevolg is een hyperverzuilde samenleving (zie ook Metagids #12). Het betekent een wildgroei aan emoties, een radicalisering van diezelfde emoties en een uiterst gefragmenteerde samenleving. Dit is zo gevaarlijk dat het de beginselen van de democratie ondermijnt. En daar is wat mij betreft niets goeds aan.

De media die deze week verder het metaversum inkleurden, zijn de volgende:

1. Mediastorm Aflevering 5

Mediastorm Aflevering 5. Afgelopen week besteedde ik in Metagids #22 aandacht aan de omvolkingstheorie en hoe sociale media iedereen radicaliseren. Naar aanleiding van dit artikel werd ik gebeld door de redactie van het programma Mediastorm met de vraag of ik dit wilde toelichten in de studio. Helaas kon ik vanwege andere afspraken hier niet aan meewerken, wel besteedde het programma aandacht aan deze materie. Amerika correspondent Michiel Vos werd hierover bevraagd.

2. Zelf babymelk maken met influencers

DIY babymelk maken – In Amerika is een schreeuwend tekort aan babymelk. Op sociale media zoals TikTok en YouTube duiken overal recepten op gemaakt door goed bedoelde influencers die niet altijd even goed zijn voor een zuigeling. Nieuwsorganisatie Bloomberg dook er boven op en diverse sociale media haalden vervolgens de filmpjes offline. Een korte zoektocht “baby formula recipe” leert echter dat de recepten nog steeds online staan.

3. Waarom de zaak van Johnny Depp en Amber Heard zo vreselijk is

Waarom de Depp-Heard rechtszaak zo vreselijk is – Het internet heeft Depp en Heard inmiddels veroordeeld. Online vliegen voor-en tegenstanders elkaar in de haren. In Metagids #22 liet ik al zien hier de algoritmes van sociale media de perceptie van mensen beïnvloeden. Vox beweert dat dit rechts extremisten in de kaart speelt. Hiervoor halen ze Alice Marwick’s theorie van “morally motivated networked harassment“ aan. Deze theorie stelt dat “a group of social media users can justify any amount of abuse directed at a target if they feel their cause is morally right. At scale, this looks like, and effectively is, millions of people around the world lining up to eagerly subject one woman to untold amounts of abuse, public humiliation, and violent rhetoric.“ Ook vol goede bedoelingen dus…