2020: de start van het algoritme-decennium

Hoe het vertrouwen in algoritmes beter gaat worden

Dat het komende decennium dé bloeiperiode wordt van algoritmes, had de naamgever ervan – Mohammed ibn Moesa al-Chwarizmi, door zijn Latijns sprekende vrienden ‘Algoritmi‘ genoemd – nooit kunnen vermoeden. Maar algoritmes zijn al overal te vinden. Denk maar aan Spotify, Netflix, de aanbevelingen bij Bol.com, weersvoorspellingen, Siri, Uber of Google. Dat algoritmes betere beslissingen kunnen nemen bij rationele keuzes, staat inmiddels wel vast. De echte vooruitgang is mede afhankelijk van het vertrouwen in algoritmes bij het nemen van de meer menselijke beslissingen.

Algoritmes zijn feitelijk reeksen logische stappen die je van A naar B leiden. Castelo, Bos en Lehmann (2019) onderzochten wat nodig is voor het vertrouwen in algoritmes en doen een serie van aanbevelingen voor marketeers om ‘algoritme-aversie’ tegen te gaan.

Het vertrouwen in algoritmes

Wat zegt de theorie op dit moment? Die is eigenlijk vrij overeenstemmend. Uit de literatuuranalyse van Castelo et al., (2019) blijkt dat we er twee gedachten op nahouden. In principe gaan we liever af op mensen dan op algoritmes. Maar dat kan van de taak afhangen: zo blijkt dat we bijvoorbeeld meer op mensen vertrouwen bij beslissingen over medische aangelegenheden, beursvoorspellingen, sollicitaties, student-prestatievoorspellingen en het voorspellen wat mensen als grappig beschouwen.

“Bij objectieve beslissingen durven we meer op algoritmes af te gaan”

Er zijn echter ook gebieden waar algoritmes meer vertrouwd worden, bijvoorbeeld als wij zelf het algoritme iets mogen aanpassen, of als we zelf geen expert zijn in een onderwerp. In andere woorden stellen de auteurs dat het erop lijkt dat we bij objectieve beslissingen meer op algoritmes durven af te gaan en minder bij subjectieve, meer menselijke, beslissingen. Dit willen de onderzoekers verder uitzoeken, om vervolgens praktische aanbevelingen aan marketeers te kunnen doen, die moeten leiden tot een verhoging van het vertrouwen in algoritmes. En dan met name in die gevallen waarvan inmiddels al is bewezen dat algoritmes de menselijke experts verslaan.

Het onderzoek

De basis van het denken over hypothese in dit artikel wordt gevormd door het inzicht van de auteurs dat vertrouwen in algoritmes twee componenten kent: een cognitieve component – kan het algoritme werkelijk betere beslissingen nemen? – en een affectieve – voel ik ook dat het algoritme betere beslissingen kan nemen? Beiden zijn volgens de auteurs te manipuleren.

De eerste component kan door reframing gemanipuleerd worden, waarbij de gepercipieerde objectiviteit van de taak wordt verhoogd. Het affectieve component kan gemanipuleerd worden door voorbeelden te geven van algoritmes die daadwerkelijk al hebben laten zien over emotionele eigenschappen te beschikken, zodat subjectieve beslissingen kunnen worden genomen. Denk bij dit laatste aan algoritmes die muziek of gedichten kunnen componeren, of die emoties op gezichten van mensen kunnen lezen en daarop ook kunnen inspelen.

Op basis van eerdere publicaties in de literatuur worden er twee specifieke hypotheses geformuleerd, plus een additionele onderzoeksvraag die nog niet als hypothese is uit te drukken.

1. De eerste hypothese is H1: Consumers trust and rely on algorithms less for subjective (vs. objective) tasks.
2. De tweede hypothese is H2: Describing a task as benefiting from quantitative analysis (relative to intuition) increases perceived task objectivity and consumers’ trust in and reliance on algorithms.
3. De aanvullende onderzoeksvraag luidt als volgt: Will increasing algorithms’ perceived affective human-likeness decrease or increase the effect of perceived task objectivity on consumers’ use of algorithms?

De onderzoekers organiseren in totaal zes verschillende laboratorium- en veldexperimenten middels Facebook. Hierbij wordt zowel gekeken naar self-reported vertrouwen in en voorkeur voor het gebruik van algoritmes, maar ook naar echt gedrag door bijvoorbeeld de click through rate te meten aan de hand van advertenties voor producten en diensten die al dan niet gebruik maken van algoritmes. In totaal worden meer dan 56.000 mensen bij het onderzoek betrokken. (DM mij svp als je alle details wilt weten)

En wat zeggen de uitkomsten?

Studie 1 laat zien dat het vertrouwen in algoritmes behoorlijk varieert, afhankelijk van de beslissingstaak (zie tabel 3). Inderdaad is het vertrouwen lager voor meer subjectieve taken en worden menselijke experts meer vertrouwd.

In studie 2 wordt dit effect tevens aangetoond in een veldexperiment op Facebook, waarbij de click through rate (CTR) gemeten werd op vier verschillende advertenties die ad random werden getoond aan meer dan 46.000 mensen. De ene advertentie was voor een dating-service (hoog subjectief, zie table 3) en de andere voor financiële adviezen. Beiden werden aanbevolen door een mens of door een algoritme.

In studie 3 wordt vervolgens aangetoond dat het aanbieden van bewijs dat het algoritme betere beslissingen neemt, meer geschikt is in het geval van objectieve beslissingen dan bij subjectieve beslissingen.

Studie 4 laat vervolgens zien dat indien een subjectieve taak gereframed wordt als een meer objectieve taak, dit inderdaad meer vertrouwen opwekt.

In studie 5 wordt dit effect gerepliceerd in een Facebook-veldstudie ( N= 13.621), middels de CTR op verschillende advertenties voor een dating-service waarbij in de experimentele situatie onder andere wordt vermeld: “studies show that using objective, quantifiable data is the best way to choose who to date”.

“Mensen hebben vrij stevige meningen over de beslissingen waar ze algoritmes wel of niet nuttig vinden”

In de zesde en laatste studie wordt aangetoond dat een algoritme voor een subjectieve taak inderdaad meer wordt vertrouwd als er eerst een voorbeeld is gegeven van algoritmes die ook ‘menselijke’ beslissingen kunnen nemen.

Conclusies

Samengevat betekent dit onderzoek dat mensen vrij stevige meningen hebben voor wat betreft de beslissingen waarbij ze algoritmes wel of niet nuttig vinden. Dit kan echter door marketeers beïnvloed worden. Vind je dus dat je een algoritme hebt dat aantoonbaar betere subjectieve beslissingen kan nemen dan een menselijke expert, dan doe je er als marketeer goed aan om of de manier waarop de taak wordt opgevat, of de perceptie van het subjectieve algoritme te veranderen.

In het eerste geval gebruik je frames die laten zien dat subjectieve beslissingen verbeteren zodra er ook meer objectieve feiten meegewogen worden. In het tweede geval leg je uit welke ‘menselijke’ subjectieve taken al door computers kunnen worden uitgevoerd, zoals bijvoorbeeld ziektes identificeren, het maken van gedichten, schilderijen, muziek, teksten, emoties herkennen en daarop correct inspringen, et cetera.

“Voor wat de ontwikkeling en acceptatie van ‘menselijke’ algoritmes betreft, belooft 2020 een spannend begin van het nieuwe decennium te worden”

2020 Belooft een spannend begin van het nieuwe decennium te worden voor wat de ontwikkeling en acceptatie van ‘menselijke’ algoritmes betreft. Doe je voordeel met dit onderzoek en ik hoop dan ook veel mooie voorbeelden hiervan te zien. Tot in 2030, als we de balans opmaken.

Bronnen

Blauw, S. (2019). ‘Wat is een algoritme?’ De Correspondent, 2 juli 2019

Castelo, N., Bos, M. W., & Lehmann, D. R. (2019). Task-Dependent Algorithm Aversion. Journal of Marketing Research, 56(5), 809-825. (helaas achter paywall)