De komende AI tsunami

Overspoeld met AI-verhalen

Vorige week maakte Neil Clarke, de uitgever van het science-fiction tijdschrift Clarkesworld, via een blogpost bekend dat hij gestopt is met het accepteren van open inzendingen. Zijn bedrijf werd overspoeld door met AI-gegenereerde verhalen. Normaliter keurt hij zo’n 10 tot 25 inzendingen per maand af vanwege plagiaat.

Sinds het vrijgeven van de AI tekstgenerator ChatGPT eind november 2022 is dit aantal echter geëxplodeerd. In januari zag Clarke zich genoodzaakt om 100 inzendingen af te keuren en de auteurs voorgoed van zijn platform te weren. Medio februari staat de teller inmiddels op 500 permabans. De schuld ligt bij influencers die via YouTube, TikTok en Reddit de chatbot aanprijzen als een makkelijke manier om snel geld te verdienen.

Gewoon zaken doen is niet meer mogelijk

Per gepubliceerd woord betaalt het tijdschrift schrijvers een vergoeding van tussen de 10 en 12 cent. De uitgever ziet zich opgezadeld met een groot probleem: “Gewoon zaken doen is niet meer mogelijk.” Volgens persagentschap Reuters doet een zelfde probleem bij Amazon zich voor. In de eerste twee weken van februari waren er meer dan 200 e-books in de online catalogus te vinden waarin ChatGPT als auteur of co-auteur werd vermeld, zoals “How to Write and Create Content Using ChatGPT” en de gedichtenverzameling “Echoes of the Universe” waarvan de bijbehorende afbeeldingen gemaakt zijn met behulp van AI beeldgenerator Stable Diffusion.

Dit zijn de boeken waarbij expliciet vermeldt wordt dat ChatGPT een handje heeft geholpen. Vaak nemen auteurs niet eens de moeite om te vermelden dat ze geheel of gedeeltelijk met de hulp van ChatGPT geschreven zijn. Beide aantallen nemen nog dagelijks zienderogen toe.

Van ambacht tot kunst naar 1 druk op de knop

Wat Clarkesworld en Amazon nu overkomt, staat ieder instituut te wachten dat zich actief bezighoudt met de distributie van culturele expressie zoals muziek, film, literatuur en visuele kunst, maar ook wetenschap. Generatieve AI betekent de democratisering van creativiteit, het is de “decompositie van de menselijke cultuur in verkenbare latente ruimtes.” Dankzij kunstmatige intelligentie heeft nu iedereen (veelal gratis) de digitale instrumenten in handen om zelf creatief te zijn. Het schrijven van een artikel, gedicht, boek of songtekst, het componeren van een muziekstuk, het inzingen van een liedje, het maken van een kunstwerk, het produceren van een film, zelfs het vouwen van een proteïne of het bedenken van een medicijn, met een simpele druk op de knop is het binnen enkele seconden gegenereerd, geüpload en gedeeld. Wat vroeger door ambacht tot kunst werd verheven, wordt nu door AI tot gemeengoed gemaakt. Het levert een continue stroom aan gegenereerde culturele spam op.

“Wat vroeger door ambacht tot kunst werd verheven, wordt nu door AI tot gemeengoed gemaakt.”

David Guetta “doet” Eminem: Maar van wie is dit nummer?

De Franse DJ en muziekproducent David Guetta kondigde onlangs via zijn Instagram-account aan dat hij met behulp van AI de stem en rapstijl van Eminem had nagebootst en gebruikt op één van zijn tracks. Wanneer hij het nummers tijdens een van zijn liveoptredens draait, gaat het publiek volledig uit zijn dak wanneer ze de stem van de rapper herkennen.

Het begon voor Guetta als een grapje, om te kijken wat mogelijk was, maar in een interview met de BBC laat hij weten ervan overtuigd te zijn dat “AI de toekomst van de muziekindustrie is.” Wel heeft hij beloofd dat hij het nummer “niet commercieel zal uitbrengen.” Niet verwonderlijk, want de track roept tal van ethische en juridische vraagstukken op. De rapper heeft het nummer niet geschreven en niet ingezongen, wel heeft de AI bestaande opnamen gebruikt om zich het kenmerkende stemgeluid en de rapstijl toe te eigenen. Wie is hier nu de rechtmatige eigenaar van?

Ectype: Nieuwe nuance tussen echt en nep

Een stortvloed van door AI gegenereerde content komt op ons af waarvan niet of nauwelijks valt na te gaan of het een origineel of een kopie betreft. De nieuwe mogelijkheden tot content manipulatie en creatie zorgen voor nieuwe nuances, waardoor de tegenstelling tussen echt en nep steeds vaker achterhaald blijkt. Informatieprofessor Luciano Floridi, directeur van het Digital Ethics Center aan de Yale-universiteit, stelt vast dat we voor al deze nuances geen goede woorden hebben.

Floridi stelt daarom het Griekse woord “ectype” voor: “een kopie die een speciale relatie met zijn bron heeft“. Hij kijkt hierbij naar de originele bron, het archetype, het al dan niet authentieke vervaardigingsproces en het eindresultaat, het artefact. Floridi’s voorspelling is dat de komende tijd verschillende vormen van ectypes ontstaan en daarmee nieuwe nuances in het spel tussen nep en echt.

Het feit dat niet langer eenduidig te herleiden is hoe een digitaal artefact tot stand komt, moet organisaties en instituten die de rechten van belanghebbende partijen behartigen hoofdbrekens bezorgen. Het licentiemodel van deze instellingen, dat een-op-een verbonden is met identificeerbare werken, wordt door kunstmatige intelligentie ook ontkoppeld en dit levert tal van problemen op.

Wij en onze systemen zijn niet voorbereid op de nieuwe wereld

Tussen David Guetta en de echte Eminem zijn van tevoren geen contracten opgesteld waarin ieders aandeel is vastgelegd. Hoe moet een organisatie als Buma/Stemra berekenen wie wat verdient aan het ectype van de synthetische Eminem als in de latente ruimte van culturele expressie het identificeren van de originele bron bijna onmogelijk is? Een wereld waarin de grenzen tussen echt en nep niet langer meer bestaan vereist een andere manier van denken. Het is een wereld waar wij en onze systemen totaal niet op zijn voorbereid.

Het is een zorgwekkende trend.