Nep nieuwsfoto’s bedreigen democratie

Op de voorgrond van onderstaande foto is een man te zien van de Griekse speciale rampeneenheid EMAK. Achter hem zijn ingestorte gebouwen te zien als de gevolgen van de zware aardbeving die recentelijk in Turkije en Syrië plaatsvond. De man houdt een klein kind strak tegen zijn lichaam gedrukt. Het is niet verwonderlijk dat de foto veelvuldig gedeeld wordt op diverse sociale media, want het maakt veel emoties los. Als je goed kijkt, dan zie je op de foto dat de man zes vingers heeft. Een bekend probleem bij foto’s die gemaakt zijn met behulp van kunstmatige intelligentie.

Afbeelding: De brandweerman foto van Panagiotis Kotridis, gemaakt met AI-tool Midjourney

Foto leidt eigen leven op internet

Onderzoek wijst uit dat de foto is gemaakt door Panagiotis Kotridis, een voormalig commandant van de brandweer. Hij heeft de foto met Midjourney, een AI programma dat afbeeldingen produceert op basis van tekstuele beschrijvingen, gemaakt en vervolgens bewerkt met Photoshop om verschillende details toe te voegen, zoals de vlaggen, het acroniem EMAK en de insignes van het korps. Het nepbeeld heeft hij vervolgens voorzien van zijn handtekening en op zijn Facebook-pagina geplaatst “om zijn collega’s te eren die het beste doen om de getroffenen van de aardbevingen in Turkije te redden”.

Na publicatie is de foto op internet een eigen leven gaan leiden. De signatuur van Kotridis is verwijderd en het beeld wordt als zijnde een echte foto veelvuldig gedeeld. Interessant is dat het een grote groep mensen totaal niet uitmaakt of de foto echt of nep is: de foto straalt immerds een zeer krachtige boodschap uit, die miljoenen mensen diep heeft ontroerd. Er wordt zelfs geopperd om het beeld tot “foto van het jaar” uit te roepen.

“Er wordt zelfs geopperd om het beeld tot “foto van het jaar” uit te roepen.”

Rare trend: Posten van emo-nepfoto’s

De met AI gemaakte foto staat niet op zichzelf. Journalist en factchecker Marieke Kuypers noemt het inmiddels een “rare trend van emotionele nepfoto’s posten“. Online zijn meerdere beelden van nieuwswaardige gebeurtenissen terug te vinden, die hyperrealistisch lijken, maar hartstikke nep zijn. Naast nepfoto’s van slachtoffers van de aardbeving, rouleren er online ook AI foto’s van de demonstratie tegen de pensioenhervorming in Parijs (waarvan de maker beweert ze gemaakt te hebben om mensen bewust te maken van afbeeldingen die door robots worden gegenereerd) en verslikt een nieuwsproducent van de BBC zich in een door AI gegenereerde foto van oude mannen in Yemen.

Meest bekend is de aangrijpende foto van een huilend jochie in een jas met Oekraïense vlag. Dit beeld werd op maandagochtend 16 januari via het officiële Engelstalige Twitterkanaal van het Oekraïense parlement verspreid. Het kind had een Russische raketaanval op een appartementsgebouw in de stad Dnipro overleefd. Ook bij deze afbeelding werd vermeld dat het om een illustratie ging. Weinig mensen viel dit op. Het Oekraïense onderzoeksjournalistennetwerk Behind The News greep het voorval aan om op Facebook een discussie te starten over het ethische gebruik van deze door kunstmatige intelligentie gegenereerde foto’s. Deze hyperrealistische beelden vormen volgens de factcheckers een groot gevaar:

“Het is niet verwonderlijk dat sommige mensen denken dat onze echte foto’s en video’s ook met kunstmatige intelligentie gemaakt zijn.”

Glijdende schaal nepfoto’s: Vervuiling informatie-ecosysteem

Deze nepfoto’s maken eens te meer duidelijk dat onze maatschappij zich op een glijdende schaal bevindt. Het zijn in eerste instantie niet de nepbeelden zelf waarvoor we bang moeten zijn, maar voor de manier waarop ze het informatie-ecosysteem vervuilen en een alternatieve realiteit scheppen. Het gevaar is niet zozeer dat de leugen tot waarheid wordt verheven, maar dat de geloofwaardigheid van de waarheid wordt aangetast. De leugen hoeft niet overtuigend te zijn, als deze maar vaak genoeg herhaald en verspreid wordt, raken mensen vanzelf verward.

Wetenschappers noemen dit verschijnsel liar’s dividend.

Dit voordeel voor de leugenaar speelt kwaadwillenden in de kaart: iedereen kan nu alles afdoen als een leugen, een samenzweringstheorie, nepnieuws of een deepfake. Zo worden we geconditioneerd om een apathie voor de realiteit te ontwikkelen. Als mensen op grote schaal voortdurend overspoeld worden met mis- en desinformatie, dan wordt het steeds moeilijker om echt van nep te onderscheiden en is de kans groot dat men een muur omtrent het eigen gelijk optrekt en onverschillig wordt ten aanzien van de objectieve werkelijkheid.

Terugtrekken in eigen realiteitsbubbel

Versterkt door de algoritmes van sociale media trekt men zich zo steeds meer terug in de eigen realiteitsbubbel. Daarbij weet deze vorm van computerkitsch mensen eenvoudig in de onderbuik te raken. Waar voorheen de persfotograaf nog op pad moest om het perfecte plaatje te schieten, wordt het drama door AI-manipulatie eenvoudig bij elkaar gefantaseerd en is de sensatiepotentie van deze nepbeelden enorm. De optelsom luidt dat er niet langer één gedeelde waarheid bestaat, hetgeen een existentiële bedreiging voor onze democratie vormt.

De oplossing: Technologie, Regelgeving, Onderwijs en Journalistiek

Een oplossing voor bovenstaand probleem is drieledig. Allereerst biedt technologie de helpende hand. Via bijvoorbeeld de uitgifte en acceptatie van digitale handtekeningen kan een bewijs van authenticiteit worden overlegd. Ten tweede is een belangrijke taak voor onderwijs en journalistiek weggelegd. Mediawijsheid moet hoog op de agenda komen te staan.

Zo wordt de jeugd in Finland reeds op jonge leeftijd voorbereid op een toekomst waarin echt en nep naadloos in elkaar overlopen.

“Als samenleving zijn we totaal niet voorbereid op een toekomst waarin het onderscheid tussen echt en nep niet langer bestaat.”

Tot slot moet de overheid adequaat optreden bij de verspreiding van nepnieuws. Wet- en regelgeving moet zich in eerste instantie bezighouden met de vraag hoe het grote publiek kan weten of iets echt of nep is. Transparantie voorop dus. De recentelijke exponentiële groei van allerlei AI-tools, zoals ChatGPT, Dall-E en Midjourney, waardoor iedereen kan spelen met de realiteit, maken eens te meer duidelijk dat de tijd dringt. Dat de maker van ChatGPT recent nog heeft gezegd dat de overheid zich meer moet gaan bemoeien met deze AI-explosie zegt genoeg.

Als samenleving zijn we totaal niet voorbereid op een toekomst waarin het onderscheid tussen echt en nep niet langer bestaat. Er zal op meerdere fronten tegelijkertijd actie moeten worden ondernomen.