Is Apple’s Siri medeplichtig aan moord?

Vorige week stond Pedro Bravo terecht voor de moord op Christian Aguilar in september 2012. Een uit de hand gelopen meningsverschil over een ex-vriendin was de oorzaak. Bravo wordt ervan beschuldigd dat hij zijn slachtoffer eerst gedrogeerd heeft, om hem vervolgens te wurgen en te begraven in een bebost gebied. In de rechtszaak worden onder andere de data van Bravo’s smartphone gebruikt om aan te tonen dat hij de dader is. Zijn GPS-locaties, alsmede het feit dat hij zijn zaklampapplicatie 9 keer heeft gebruikt voor meer dan 48 minuten, hebben hem verraden.

Het meest frappante aan de rechtszaak is dat een screenshot uit de Facebook cache van zijn telefoon werd gediept, waarop te zien is hoe Apple’s virtuele assistent Siri reageert op het statement: “In need to hide a dead body”. Siri geeft hier gevat antwoord op: “What kind of place are you looking for? Dumps, swamps, reservoirs, metal foundries, mines”. Dit screenshot is in de Amerikaanse media zijn eigen leven gaan leiden. Het verhaal ging de rondte dat Bravo na de moord aan Siri gevraagd zou hebben waar hij het beste het lijk kon verbergen. Bravo heeft de vraag echter op het moment van de moord nooit zelf gesteld aan Siri. Het was een oude meme die hij simpelweg had bewaard om deze op een later moment nog eens te kunnen gebruiken. Uit onderzoek blijkt overigens dat Siri tegenwoordig een heel ander antwoord op de vraag geeft: “Very funny”.

De kop van dit artikel is nu nog toekomstmuziek. Maar deze toekomst is dichterbij dan we denken. Algoritmes nemen steeds vaker allerlei taken uit onze handen om ons leven zo gemakkelijk mogelijk te maken: variërend van intelligente thermostaten tot zelfrijdende auto’s. De vraag is nu of kille logica inderdaad zo onschuldig is.

Mogen zelfrijdende auto’s discrimineren?

Bij dit soort vragen kom je al snel uit op de zelfrijdende auto’s van de toekomst. Wat voor een beslissing moeten deze maken wanneer een ongeluk gebeurt? Vanuit een natuurkundig oogpunt is het bijvoorbeeld beter om tijdens een botsing tegen een grote, zware auto aan te rijden dan tegen een klein autootje. Een grotere auto absorbeert de impact beter, dus minder kans op letsel. Algoritmes kunnen deze natuurwetten meenemen in hun calculaties. Een dikke Mercedes is dus altijd het bokje ten opzichte van een Mini.

En wat moet een zelfrijdende auto doen wanneer er twee motorrijders op hem afstormen? Eentje met helm en eentje zonder. Ook hier zullen de algoritmes tot de conclusie komen dat het beter is om de motorrijder met helm aan te rijden aangezien hij een hogere overlevingskans heeft. Dit is natuurlijk de omgekeerde wereld. De motorrijder zonder helm wordt beter beschermd dan diegene met helm, terwijl het verplicht is als motorrijder om een helm te dragen.

Mogen robots ethische beslissingen nemen?

Helemaal interessant wordt het wanneer al deze zelfrijdende auto’s met elkaar verbonden zijn. De auto van een individu zal als doel hebben om de inzittende(n) te allen tijde te beschermen, terwijl het netwerk als doel heeft om de schade en eventueel letsel van zoveel mogelijk verschillende mensen te voorkomen. Een situatie is dus denkbaar waarbij het netwerk een beslissing neemt waarbij mijn auto zich opoffert.

Stel je maar eens voor. Van een auto werken de remmen niet meer en deze storm af op een druk kruispunt. Ik zit in mijn zelfrijdende auto netjes te wachten voor een rood stoplicht. Het netwerk kan in deze situatie heel goed besluiten om de deuren van mijn auto te sluiten en de auto naar voren te rijden teneinde de op hol geslagen auto te stoppen. Met andere woorden, ik word opgeofferd om erger te voorkomen. Het netwerk mag dan voor het collectief de juiste beslissing genomen hebben, als individu ben ik het er niet echt mee eens…

Bovenstaand scenario staat bekend als het “trolley problem”. Het is een goedachtenexperiment met betrekking tot het nemen van ethische beslissingen. Wat is in dit soort situaties een moreel goede of foute keuze? Het zijn dilemma’s waar mening filosoof zijn hoofd over heeft gebroken, maar waar geen eenduidig antwoord op is en waar de programmeurs van de algoritmes wel rekening mee moeten houden. Immers, in het geval van de op hol geslagen auto, kan de programmeur dan aansprekelijk gesteld worden voor mijn dood? Het algoritme heeft immers een doelbewuste keuze gemaakt om mij te vermoorden.

Deus in Machina

Met de bouw van robotauto’s komen we op onbekend terein terecht: “We’re trying to design for random events that previously had no design, and that takes us into surreal territory.” Het is als Alice in Wonderland. We weten niet wat boven of onder is, wat goed of fout is. Wat voorheen chaos was en waarin menselijke reflexen en intuïtie in een split second een beslissing namen, wordt deze verantwoordelijkheid nu toebedeeld aan technologie, aan algoritmes. We stoppen God in de machine terwijl we nog geen antwoorden hebben op bovenstaande vragen.

Het is niet verwonderlijk dat Elon Musk, de oprichter van Tesla Motors, recentelijk via Twitter liet weten dat hij zich ernstige zorgen maakt over kunstmatige intelligentie: “Potentially more dangerous than nukes”. Er moeten nieuwe wetten komen die uitsluitsel geven op deze ethische dilemma’s. “Hoe autonomer robots gaan handelen, hoe meer er moet veranderen in de wetgeving.” Gelukkig is dit geen probleem in het huidige politieke klimaat. Ik ben blij dat ik met de trein reis.

Bronnen

• Barder, Owen, “Google and the Trolley Problem”, June 9, 2014
• Liljas, Per, “Murder Suspect Is Linked to Screenshot of ‘Siri’ Search for Where to Hide a Body”, Time, August 13, 2014
• Lin, Patrick, “The Robot Car of Tomorrow May Just Be Programmed to Hit You”, Wired, June 5, 2014
• Lin, Patrick, “Here’s a Terrible Idea: Robot Cars With Adjustable Ethics Settings”, Wired, August 18, 2014
• van Noort, Wouter, “Daar komen de robots!”, Elsevier Juist, August 21, 2014
• Weinberger, David, “Would a Google car sacrifice you for the sake of the many?”, Medium, June 8, 2014
• Worstall, Tim, “When Should Your Driverless Car From Google Be Allowed To Kill You?”, Forbes, June 18, 2014