AI-gegenereerde nachtmerries: De duistere kant van TikTok
De Metagids #69: Technologische ontwikkelingen moeten gereguleerd worden om onze menselijkheid, waardigheid en respect voor het leven te behouden.
In de exponentieel groeiende wereld van kunstmatige intelligentie steekt een nieuw en zorgwekkend fenomeen de kop op: de opkomst van ’true crime deepfakes’ op social media platformen zoals TikTok. Deze video’s, gecreëerd met AI, brengen de slachtoffers van echt gebeurde misdaden ’tot leven’ waarin ze vanuit hun perspectief hun eigen gruwelijke einde beschrijven. Deze verontrustende trend zet niet alleen vraagtekens bij de ethiek van dergelijke creaties, maar ook bij de reikwijdte van onze huidige wetgeving en regelgeving rondom AI en deepfakes.
Gruwelijke verhalen met kinderen in hoofdrol
De video’s worden gepubliceerd door accounts met duizenden volgers, waarbij de verhalen van echte misdaadslachtoffers worden verteld. Het gaat vaak om gruwelijke verhalen, waarbij in sommige gevallen kinderen de hoofdrol spelen. Het merendeel van de video’s geeft geen inhoudelijke waarschuwing vooraf, wat de kijker onvoorbereid laat op de schokkende inhoud die volgt. Deze trend op TikTok is een manifestatie van een grotere fascinatie voor zogenaamde ’true crime’ content. Dit genre omvat documentaires, podcasts en boeken over echte misdaden.
Eren van slachtoffers?
De verhalen zijn waar, maar de details worden vaak verdraaid of verkeerd voorgesteld. De slachtoffers worden neergezet met verschillende namen, leeftijden en huidskleuren dan in werkelijkheid is gebeurd. De makers van deze video’s beweren dat zij de slachtoffers eren, maar in werkelijkheid onteren zij hen door feitelijke onjuistheden en ongepaste representaties. Er wordt gespeculeerd dat sommige van deze verkeerde voorstellingen opzettelijk zijn, mogelijk als een manier om de strikte regels van TikTok ten aanzien van deepfakes van niet-beroemde personen en kinderen te omzeilen.
Bedoeld om te choqueren
De video’s zijn alternatief gegenereerde realiteiten; schijnwerkelijkheden, zogeheten hyperrealiteiten. Veel van de accounts hebben een disclaimer waarin staat dat in de video geen echte foto’s van slachtoffers worden gebruikt uit “respect voor de familie”. Wat een wassen neus is, want de video’s zijn stuk voor stuk bedoeld om te choqueren en sterke emotionele reacties op te roepen om maar zoveel mogelijk views en likes te verzamelen.
Niet verwonderlijk dat aan deze alarmerende trend verschillende ethische en juridische bezwaren kleven. De video’s, die zonder toestemming van de nabestaanden zijn gemaakt, hebben het potentieel om de dierbaren van deze slachtoffers opnieuw te traumatiseren. Mensen die eerder slachtoffer waren worden opnieuw tot slachtoffer gemaakt. Ook is het goed mogelijk dat rouwende families civiele rechtszaken willen aanspannen tegen de makers van dergelijke video’s, vooral als er inkomsten worden gegenereerd met de video’s. Volgens experts biedt het aanklagen op grond van laster een mogelijkheid om deze trend de kop in te drukken. Het moeilijke hieraan is de personen in kwestie reeds overleden zijn…
Reguleren om misbruik te voorkomen
Het is duidelijk dat we ons begeven in een uiterst gecompliceerd gebied waar ethische en wettelijke grenzen continu worden uitgedaagd. Technologische ontwikkelingen zoals AI en deepfakes moeten gereguleerd worden om onze menselijkheid, waardigheid en respect voor het leven te behouden. Het exploiteren van de tragedies van echte mensen voor entertainment is niet alleen smakeloos, maar ook schadelijk voor de families en vrienden van de slachtoffers. Het is van cruciaal belang dat we de ethische implicaties van technologie kritisch onderzoeken en de noodzakelijke stappen nemen om misbruik te voorkomen. De recente trend van AI-gegenereerde video’s van misdaadslachtoffers op TikTok is een wake-up call voor ons allemaal om ons bewust te zijn van de donkere kant van technologische vooruitgang.
Sander Duivestein is professioneel spreker, trendwatcher, internetondernemer, adviseur, auteur en columnist over de impact van nieuwe technologie op mens, bedrijf en maatschappij. In dienst van VINT (het Verkennings Instituut Nieuwe Technologie van ICT-dienstverlener Sogeti) heeft hij aan meerdere onderzoeken meegewerkt. In de afgelopen jaren schreef hij meerdere boeken en rapporten over Bitcoin, Internet of Things, Wearables, Big Data, Social Media, Mobile, Cloud en de economische crisis. Sander is veel in de traditionele media terug te vinden. Regelmatig wordt hij gevraagd om zijn opinie in dag- en weekbladen, op de radio en op televisie te delen. Zo was hij onder andere te gast in Pauw en Witteman, Brandpunt en Nieuwsuur.