Zien is niet langer geloven

Een paar weken geleden deed rapper Sjors mijn wenkbrauwen fronsen met zijn zelfgemaakte sekstape, waarin hij voor het oog van de camera een shemale aan stukken trok. Het internet kon die dag uit. Een paar dagen later werd ik verrast door een artikel op Motherboard. Met het softwareprogramma ‘FakeApp’ bestuur je een neuraal netwerk dat het mogelijk maakt om gezichten van beroemdheden op lichamen van pornosterren te plakken. Je wildste fantasieën worden op deze manier werkelijkheid.

Afgelopen weekend heb ik mij teruggetrokken op mijn zolderkamer. Even flink mijn computer laten stampen. Het resultaat mag er zijn. Katja Schuurman is verwikkeld in een intiem onderonsje met Bridget Maasland, Matthijs van Nieuwkerk heeft een diepte interview met Eva Jinek en Donald Trump laat zich door een Russisch hoertje in een groezelige hotelkamer afzeiken.

Monopolie van Hollywood

Tot op heden was het plakken van gezichten op lichamen voorbehouden aan Hollywood. De kosten voor het maken van zo’n productie via allerlei CGI-technieken lopen al snel in de miljoenen. Zo kon het gebeuren dat in de Star Wars-film Rogue One acteur Peter Cushing weer in de huid van het karakter Grand Moff Tarkin kroop, terwijl de beste man al sinds 1994 onder de groene zoden ligt. Ook Paul Walker kon, na zijn dodelijke auto-ongeluk, de film Fast & Furious 7 gewoon afronden, door zijn gezicht op het lichaam van zijn broer Caleb te plakken.

Met het programma FakeApp kan nu iedereen dit soort scenes maken, hetgeen ook blijkt uit dit fragment uit de film Rogue One. Hier zien we een jonge prinses Leia door het beeld lopen. Het bovenste gedeelte is gemaakt door filmmakers uit Hollywood, het onderste gedeelte is in elkaar geknutseld door een amateur op een zolderkamertje. Tot nu toe wordt de tool door de rukkertjes van Reddit gebruikt om porno te maken, zelfs porno waarbij ze seks met zichzelf hebben, maar wat gebeurt er wanneer Putin, Erdogan of Trump gebruik gaan maken van dit soort tools? Iedereen heeft nu de mogelijkheid om zijn eigen werkelijkheid te creëren.

Verschil tussen nep en echt valt weg

FakeApp moet gezien worden als een ijkpunt waarin we onze eigen ogen niet langer kunnen vertrouwen. Nep is definitief niet meer van echt te onderscheiden. De dystopie van ‘1984’ is hiermee werkelijkheid geworden: “De Partij leerde dat je de getuigenis van je eigen ogen en oren moest verwerpen. Het was hun beslissende, wezenlijkste opdracht. Het hart zonk hem in de schoenen toen hij dacht aan de enorme macht die tegenover hem stond, het gemak waarmee de eerste de beste partij-intellectueel hem in een debat zou verslaan, de subtiele redeneringen die hij niet zou kunnen begrijpen, laat staan beantwoorden. En toch had hij gelijk! Zij hadden ongelijk, en hij had gelijk.”

Voortaan kan iedereen het werk van serieuze journalisten als nepnieuws afdoen, niet alleen op basis van geruchten of persoonlijke meningen, maar vanwege het feit dat video’s kunnen worden vervalst. Ook het werk van geschiedkundigen kan op deze manier vervalst worden.“En als alle anderen de leugen die de Partij voorschreef aanvaardden – als alle documenten hetzelfde zeiden – dan werd de leugen tot geschiedenis, dan werd ze waarheid. ‘Wie het verleden beheerst,’ zo luidde de partijleuze, ‘beheerst de toekomst: wie het heden beheerst, beheerst het verleden’.”

“Het gehele idee van vertrouwen en geloofwaardigheid wordt ondermijnd”

Het hebben van een gedeelde waarheid bestaat op deze manier niet meer. Het leidt tot een morele crisis, die het vertrouwen tussen individuen, bedrijven en overheden vernietigt en daarmee het weefsel van onze samenleving. “Je zou kunnen zeggen het meest vernieuwende is dat het nu geloofwaardig is. We kunnen niet meer onderscheiden wat echt is en wat nep – maar dat is eigenlijk ook niet nieuw”, zegt emeritus hoogleraar Deborah Johnson in de toegepaste ethiek van de Universiteit van Virginia. “Dat het nu voor iedereen beschikbaar is, maakt het destabiliserend. Het hele idee van vertrouwen en geloofwaardigheid wordt ondermijnd.”

Algoritmische chantage

Tom Scott, een bekend YouTube-gezicht, maakte deze week een vlog over de gevaren van de FakeApp. Een van de zaken die hij bespreekt is “algorithmic blackmail”. De tool kan volgens hem gebruikt worden om gezichten van mensen in compromitterende situaties te plakken. Deze mensen zijn vervolgens chantabel, omdat ze uiteraard niet willen dat dit soort films in de openbaarheid terecht komen. Of gaan we een tijdperk in waarbij we ons niet meer druk maken over dit soort beelden? Wuiven we het simpel weg. Of het nu waar is of niet?

Maakten we ons afgelopen jaar druk over de verspreiding van nepnieuws, met tools als Adobe VoCo, Lyrebird en FakeApp wordt manipulatie en misleiding de nieuwe normaal. We leven in een slechte aflevering van Black Mirror.