De visie van Barack Obama op artificial intelligence

18 november 2016, 06:00

“People get ready, there is a train coming, you don’t need no luggage just get on board”

Bob Dylan zong het in de jaren zestig om de toen ophanden zijnde maatschappelijke veranderingen te verwoorden: “People get ready, there’ a train a-coming, you don’t need no baggage, you just get on board.” De artificial-intelligencetrein is ook vertrokken en heeft koers gezet naar het beloofde land. Het enige wat we hoeven te doen, is aan boord te stappen. Kunstmatige intelligentie biedt ons de mogelijkheid onze dromen waar te maken: het heeft bijvoorbeeld de potentie ziektes te genezen, wereldarmoede te elimineren en klimaatverandering tegen te gaan. Het beloofde land klinkt aanlokkelijk, maar vooralsnog is het grote publiek nog huiverig om aan boord te stappen. In een artikel in Wired geeft president Barack Obama zijn visie op een aantal vraagstukken rondom AI en wat mensen weerhoudt. In deze blog ga ik wat dieper in op een aantal van de ethische kwesties die president Obama benoemt.

Angst voor AI is meer dan een “imagoprobleem”

Ondanks de enorme potentie van AI om grote vraagstukken op te lossen, zijn veel mensen er ook bang voor. Deze angst is de afgelopen decennia mede gevoed door de vele films waarin superintelligente robots zich tegen de mensheid keren en de heerschappij van onze planeet willen overnemen.

Maar het zijn niet alleen films die ons tegen de gevaren van AI waarschuwen. Het is ook een aantal zeer vooraanstaande personen, zoals Bill Gates, Elon Musk en Steven Hawkins. Dit geeft aan dat enige reden tot ongerustheid wel op zijn plaats is.

Ook de techgiganten, waarvan een aantal de afgelopen jaren veel in AI hebben geïnvesteerd, onderkennen het probleem en hebben stappen genomen om hier wat aan te doen. Amazon, Facebook, Google, IBM en Microsoft hebben de krachten gebundeld en hebben gezamenlijk een nieuwe organisatie opgericht: The Partnership on Artificial Intelligence to Benefit People and Society.

Een van de doelstellingen van deze organisatie is zoveel mogelijk mensen te informeren over AI en een platform te bieden voor een maatschappelijke discussie, in het bijzonder over de gevaren en de ethische aspecten.

Artificial general intelligence (AGI)

In het interview maakt President Obama het onderscheid tussen ‘narrow artificial intelligence‘ (narrow AI) en ‘artificial generalized intelligence‘ (AGI). Met AGI wordt de kunstmatige intelligentie bedoeld zoals we die uit de films kennen. Bijvoorbeeld Skynet, het zelfdenkend computernetwerk uit de Terminator-films, dat zich tegen de mensheid keert.

Onder de experts bestaat momenteel de consensus dat we ons op korte termijn nog geen zorgen over hoeven te maken over deze vorm van AI. Er is nog een aantal technische doorbraken nodig om AGI te bouwen.

Ik richt mij in deze blog dan ook niet op de ethische vraagstukken rondom de toekomstige Skynets, maar op die rondom ‘narrow AI‘.

Narrow artificial intelligence

Daar waar AGI nog iets voor de toekomst is, wordt narrow AI al toegepast. Het bevat geen algemene intelligentie, maar gebruikt algoritmes en computers om zeer complexe taken uit te voeren, zoals gezichtsherkenning, autorijden of vinden van informatie op het internet.

If properly harnessed, it can generate enormous prosperity and opportunity. But it also has some downsides that we’re gonna have to figure out in terms of not eliminating jobs.

Het gevaar van uitsluiting

AI neemt in haar analyses een grote aantal variabelen mee en berekent de meest voor de hand liggende keuze. Dit kan ertoe leiden dat mensen die geen standaardprofiel hebben minder kans maken om bijvoorbeeld een baan te vinden of om een lening af te sluiten.

As technologies emerge and mature, then figuring out how they get incorporated into existing regulatory structures becomes a tougher problem, and the overn­ment needs to be involved a little bit more.

In een “inclusieve” samenleving die geen mensen buiten wilt sluiten, is dit niet wenselijk. In het interview geeft Obama aan dat het juist de uitzonderingen zijn die ons menselijk maken. De zonderlingen, mafkezen en wierdo’s die tegen bestaande conventies een briljante uitvinding of theorie ontwikkelen en daarmee de mensheid een stap verder helpen – denk aan Albert Einstein, Charles Darwin of Mozart.

Wellicht dat er een taak voor onze overheid ligt om ervoor te zorgen dat het gebruik van AI geen mensen uitsluit door hun kansen op de arbeidsmarkt of door de toegang tot krediet te verkleinen.

AI kan niet verantwoordelijk worden gehouden

Een bijkomende kwestie is die van verantwoordelijkheid. Het is natuurlijk vervelend wanneer je wordt afgewezen voor jouw droombaan, het is nog vervelender als je erachter komt dat dit niet door een persoon is gebeurd, maar door een artificial intelligence bot. Wanneer je vervolgens wilt weten wat de reden van de afwijzing is geweest, komt het tweede probleem: “Nobody knows“.

AI-systemen fungeren namelijk als een black box. Je kunt zien wat de output is, maar je kunt niet in de ‘zwarte doos’ zelf kijken en herleiden hoe het systeem tot de beslissing is gekomen. In de lente van dit jaar heeft de Europese Unie een wet aangenomen die haar burgers het recht geeft op een verklaring, hoe een instituut tot haar beslissing is gekomen, ook al is die beslissing door een AI tot stand gekomen.

Zo’n verklaring is ook belangrijk voor de acceptatie van AI door het grote publiek. Google doet momenteel onderzoek of het afbeeldingen uit haar ‘deep dreaming‘-programma kan gebruiken om fouten in AI aan te duiden en op die manier inzicht te krijgen in de werking van de black box.

Kunnen we AI beslissingen over leven en dood laten nemen

Op dit moment rijden er al zelfrijdende auto’s van Google rond en Uber doet al tests met zelfrijdende taxi’s in Pittsburgh.

But Joi made a very elegant point, which is, what are the values that we’re going to embed in the cars?

Aan het op grote schaal introduceren van zelfrijdende auto’s kleeft ook een aantal ethische kwesties. Hoe zal de zelfrijdende auto, met daarin een gezin, reageren als er plotseling een ander gezin de weg over steekt? Welke keuzes maakt het in situaties waarbij het moet kiezen tussen leven en dood? Hoe legt het verantwoording af over de gemaakte keuzes?

Toenemende werkloosheid

Het gebruik van AI zal processen efficiënter maken tegen lagere kosten. Neem het voorbeeld van Uber en de zelfrijdende taxi’s: door gebruik te maken van AI zal de taxibranche vele malen efficiënter worden, tegen aanzienlijk lagere kosten. Het nadeel is dat een groot aantal chauffeurs hun banen verliest. Uiteindelijk zal AI ertoe leiden dat de productiviteit en de welvaart binnen onze maatschappij toenemen, maar dat de werkgelegenheid afneemt.

Tot aan het grootste gedeelte van de 20ste eeuw leidde automatisering tot een hogere productiviteit, wat weer voor nieuwe banen zorgde. Aan het einde van de vorige eeuw onstond er een breuk in die trend. De productiviteit neemt nog steeds toe, maar de werkgelegenheid niet meer.

Een stijgende welvaart gecombineerd met minder banen vraagt om een andere inrichting van onze maatschappij. We verlaten het tijdperk dat welvaart en inkomen via arbeid worden verdeeld. Daardoor zal dit steeds meer via bezit (aandelen) plaatsvinden. We zullen een balans moeten vinden tussen werk en het verdelen van de toenemende welvaart.

What is indisputable, though, is that as AI gets further incorporated, and the society potentially gets wealthier, the link between production and distribution, how much you work and how much you make, gets further and further attenuated—the computers are doing a lot of the work.

Get on board

We staan momenteel aan de vooravond van een nieuwe wereld waarin AI een steeds grotere rol gaat spelen. Om ervoor te zorgen dat iedereen op de trein stapt, is een open en eerlijke informatievoorziening van groot belang. De Amerikaanse overheid en grote tech-bedrijven onderkennen dit en hebben al stappen ondernomen om zoveel mogelijk mensen te informeren en bij de discussie te betrekken.

Met name de informatievoorziening en discussie over de gevaren en ethische aspecten van AI zijn van belang. Normen en waarden vormen de basis van de beslissingen die we nemen. Cruciaal voor acceptatie is dat beslissingen die een AI-systeem neemt de normen en waarden van onze maatschappij reflecteren.

Deze informatievoorziening en discussie mis ik nog in Nederland. Ik hoop dat ik met het schrijven van deze blog een aanzet heb gegeven tot een betere informatievoorziening rondom dit thema en ook een aanzet heb gegeven tot meer discussie.

Arno Gudden
Oprichter bij Exocortex

Arno Gudden is een ondernemer met passie voor marketing en techniek. De laatste jaren is hij steeds meer gefascineerd geraakt door Artificial Intelligence en de toepassing daarvan binnen het marketingvak. Arno heeft vorig jaar zijn eigen bedrijf Exocortex opgericht om met behulp van AI en NLP organisaties te helpen hun bedrijfsprestaties te verbeteren.

Categorie
Tags

20 Reacties

    John

    Wat een vreselijke misinterpretatie van een prachtig nummer!!

    Dit nummer heeft totaal niets te maken maken met “op handen zijnde veranderingen”, maar gaat over het geloof om in de Hemel te komen.

    Jammer, maar als de auteur dit eenvoudige al niet goed kan interpreteren, wat zou dan de waarde van de rest zijn?


    18 november 2016 om 08:07
    bramkoster

    @John: ben je een discipel van Andries Knevel en roep je maar wat of ben je serieus? In dat laatste geval ben ik heel benieuwd waar je dat idee vandaan haalt. Ik heb de betreffende editie van Wired hier voor m’n neus liggen en ik haal het er niet uit.


    18 november 2016 om 08:31
    bramkoster

    @John: mijn nederige excuses! Ik dacht dat je het over het nummer van Wired had… *duikt zich diep schamend in een hoekje*


    18 november 2016 om 10:19
    Erwin Lima

    Gaaf artikel. IK mis dit soort beschouwingen ook in het Nederlandse (online) medialandschap!


    18 november 2016 om 12:21
    Gustavo Woltmann

    Steve Jobs wist het ook al, en ik kan mij erg vinden in zijn quote:

    Here’s to the crazy ones, the misfits, the rebels, the troublemakers, the round pegs in the square holes… the ones who see things differently — they’re not fond of rules… You can quote them, disagree with them, glorify or vilify them, but the only thing you can’t do is ignore them because they change things… they push the human race forward, and while some may see them as the crazy ones, we see genius, because the ones who are crazy enough to think that they can change the world, are the ones who do.


    24 november 2016 om 13:07
    arnogudden

    @Gustavo. Idd goed verwoord. We moeten ervoor waken dat niet alles een grauwe middelmaat wordt waarbij er geen ruimte meer is voor de: “crazy ones, misfits and rebels”.


    24 november 2016 om 14:51
    Gustavo Woltmann

    Inderdaad Arno 🙂


    28 november 2016 om 17:10
    PeneffreyGaime

    Как можно сидеть ВКонтакте с компа, а значок с телефона?

    Он просто околпачивает, так как очень многие не имея компьютера не хотят признаваться, что они обыденным в наше время устройством не пользуются. Либо желания нету на самом деле и выходят в веб от варианта к случаю либо нет возможности приобрести. Не так как денег нет, а так как своего угла нет, скитается по миру, как придется, компьютер с собой не потаскаешь, а ноутбук кажется излишне, они же в нем не работают. А сеть уже затянула, вот человек и шифруется, что вроде как все, с вебом дружу, а то, что значок указывает, типо не знаю. Это просто отмазки, чтоб иной поверил.

    Ну либо вариант, что человек хочет показать, что он дома находится.

    система избрала этот ответ лучшим

    в избранное ссылка отблагодарить

    более года назад

    По поводу отображения значка ВКонтакте можно вообщем не беспокоиться. Этот значок чрезвычайно часто живет собственной жизнью и указывает то, что ему хочется. При всем этом он может показывать, что человек, который в данный момент не находится в социальной сети, по мнению этого "грамотея" там на этот момент есть. Так-же и наоборот. То же самое касается отображения значка компьютера и телефона. Поэтому в хоть какой момент вы можете огласить, что без понятия, что "чудит" эта соц сеть. Никто не подтвердить не опровергнуть ваши слова не сможет. В сети вы без усилий найдете сильно много историй подтверждающих это утверждение. При этом, действительно, пару раз даже убеждался собственными очами в таковых "глюках".

    в избранное ссылка отблагодарить

    Если Вы про сайт вконтакте там там вообще всегда не корректно отображается информация, вот даже прикалывались на днях с дочкой.

    Она посиживает вконтакте, я захожу на ее страницу и вижу, что там написано была на сайте вчера во столько-то, а она час уже посиживает не вылезая, как здесь вообще можно веровать.

    Позже еще если зашел на страничку с компьютера и следом с телефона, отображается крайнее с телефона- это я на себе испытала в одноклассниках.

    в избранное ссылка отблагодарить

    Вконтакте практически постоянно верно показывает устройство, с которого пользователь выходит в социальную сеть. Только в редких случаях замечал эту ошибку – вправду ошибку. Ну, а чтобы зайти в контакт на компьютере, но отображения шло как с телефона, то довольно поставить перед адресом вк букву "m" и точку; другими словами, просто зайти с компьютера на мобильную версию. Вот и все – очень просто и доступно.

    Почему городничий обманулся на счет хлестакова

    Почему я не могу писать в майнкрафте 1.5.2

    Что значит экспорт в международных почтовых отправлениях

    Как сделать букет цветов из бумаги оригами

    Кто оказывает доврачебную помощь при неотложных состояниях


    30 januari 2017 om 16:31

Marketingfacts. Elke dag vers. Mis niks!