Vijf principes om Facebook, Google en hun algoritmes onder controle te houden

Hoe kunnen we controle houden op bedrijven als Facebook en hun algoritmes, terwijl ze moeilijk te begrijpen zijn en steeds complexer worden? Door ons niet te laten afschrikken door de wiskunde, maar terug te gaan naar de basis, en eerlijke en rechtsvaardige ontwerpprincipes vast te stellen waaraan ontwikkelaars zich moeten houden. Technologie is niet neutraal: het is tijd voor een nieuwe normaal. In dit artikel bespreek ik vijf ‘eerlijke’ principes waarmee we Facebook en de zijnen onder controle kunnen houden.

Structureel en fundamenteel probleem

Nepnieuws uit Rusland, trollenlegers van Kuzu, Trump en Dotan, datalekken bij Facebook: de afgelopen maanden zijn we allemaal flink met onze neus op de schaduwkanten gedrukt van internet en sociale media. Tijdens het verhoor van Facebook in het Amerikaanse parlement werd pijnlijk zichtbaar hoe weinig politici snappen van de nieuwe ontwikkelingen. Maar doen we het als burgers zoveel beter? Hoe houden we dan de tech-giganten onder controle?

“Hoe houden we dan de tech-giganten onder controle?”

Goed kijken naar je privacy-instellingen is het minimale dat we moeten en kunnen doen. Door op te stappen, zoals de ‘Bye bye Facebook’-actie van Zondag met Lubach, kunnen we als consument een sterk signaal afgeven dat we het niet eens zijn met de werkwijze van een aanbieder. Maar de overstapdrempel kan hoog zijn: alternatieven voor populaire diensten zijn soms een stuk minder aantrekkelijk.

De nieuwe privacywet AVG die komende maand van kracht gaat, is een stap in de goede richting in het verbeteren van de manier waarop bedrijven omgaan met onze gegevens. Toch biedt ook deze geen harde garantie dat onze privacy beschermd is.

Eenduidige grenzen

En dan zijn we ook nog eens heel dubbel en inconsequent ten aanzien van onze privacy. We zijn uiterst kritisch op de Wet op de Inlichtingen- en Veiligheidsdiensten, er is veel discussie over de data die via de slimme energiemeter kunnen worden verzameld, we zijn kritisch als artsen onze zorgdata willen delen en we zijn gechoqueerd als banken (zoals ING in 2015) met onze betaalgegevens meer willen doen.

Tegelijkertijd lekken we voortdurend grote hoeveelheden minstens zo gevoelige persoonlijke informatie naar Amerikaanse, Chinese en Russische bedrijven, via talloze sociale media- en gezondheidsapps, smart tv’s en homepods; laten we ons tracken in winkels (via WiFi en Bluetooth), onze auto en op websites (cookies) en worden we in winkels en steden overal op camera vastgelegd. De ‘data-sleepnetten’ zijn overal. Het lijkt ons niet te deren.

Deze dubbele houding geeft een verwarrend signaal af aan bedrijven en technologieontwikkelaars. Het is belangrijk dat we één lijn gaan trekken.

Terug naar de basis: de ontwerpprincipes

In plaats van een discussie te voeren over details van de technologie en de gebruikersvoorwaarden, is het belangrijk dat we teruggaan naar basisprincipes. Deze zouden het uitgangspunt moeten zijn voor de ontwikkeling van de technologie, de toepassingen en verdienmodellen die ermee gebouwd worden. Hier kunnen we enigszins grip krijgen op de ontwikkelingen. Deze basisprincipes bevatten de ‘regels’ waarop we onze samenleving willen baseren en dus ook de ontwikkelde technologie en businessmodellen (zie ook mijn eerdere artikel over eerlijke platformen).

“Het is tijd dat we de ‘logica’ die zo langzaamaan gewoon is geworden, doorbreken en vaststellen wat we ‘normaal’ vinden”

Is het logisch dat we voortdurend gevolgd worden en dat we bestookt worden met zoveel reclame die in de nabije toekomst steeds meer psychologisch beïnvloedend wordt? Het is tijd dat we de ‘logica’ die zo langzaamaan gewoon is geworden, doorbreken en vaststellen wat we ‘normaal’ vinden.

Vijf eerlijke ontwerpprincipes voor Facebook

Een voorstel voor vijf eenvoudige ontwerpprincipes waaraan platformen als Facebook, de algoritmes die ze gebruiken en de kunstmatige intelligentie die momenteel wordt ontwikkeld, zich zouden moeten houden.

1. Niet volgen

Het volgen door cookies en apps zou standaard uitgezet moeten worden. Laat bedrijven andere manieren gebruiken om je te vragen naar je voorkeuren.

2. Niet bewaren

De nieuwe privacywet (de AVG) stelt daar grenzen aan de bewaartermijn. Toch zouden bedrijven ook kunnen besluiten om data sneller weg te gooien, net zoals berichten bij Snapchat na een tijdje weer verdwijnen. Consumenten zouden de mogelijkheid moeten hebben om hun data te allen tijde te laten wissen en met een schone lei te beginnen.

3. Niet doorverkopen

Data is goede handel en vrijwel elk bedrijf is geïnteresseerd in gegevens van consumenten. Roep het doorverkopen van data een halt toe, dan blijft de kring waarin je data gedeeld worden overzichtelijk en kunnen consumenten er zelf ook beter controle over houden.

4. Niet profileren

Slimme algoritmes en geavanceerde analyses bepalen steeds meer wat we te zien krijgen, de prijs, of we een baan krijgen e.d. We zouden de mogelijkheid moeten krijgen om niet geprofileerd te worden. Er kunnen wel gegevens bekend zijn maar men mag deze niet gebruiken om onderscheid te maken. Dan maar geen reclames op maat en misschien betalen we een standaardprijs, soms is het lot (een willekeurige keuze) eerlijker dan een moeilijke keuze. Niet profileren heeft ook de kant van: niet discrimineren en geen onderscheid maken, net als Vrouw Justitia, de netneutraliteit op internet, de aansluitverplichting van telecombedrijven en de acceptatieplicht van verzekeraars en gelijke premie voor iedereen.

5. Recht op anonimiteit

Waarom moeten we bij Facebook onze echte naam gebruiken? Waarom moet Whatsapp zich installeren in ons telefoonboek? Laten we altijd de mogelijkheid krijgen om een anoniem profiel aan te maken. Op andere terreinen pleiten we ook voor anonimiteit, zoals bij het solliciteren om vrouwen en allochtonen gelijke kansen te geven. Dat anonieme profielen veel gebruikt worden om te trollen en nepnieuws te verspreiden, betekent dat er andere oplossingen gevonden moeten worden om misbruik te stoppen. Het opheffen van anonimiteit is niet de enige oplossing.

Een nieuwe normaal

Per principe valt nog veel meer te vertellen – er worden hele debatten omheen gevoerd – dan de omvang van dit artikel nu toelaat. Maar deze vijf ontwerpprincipes zouden uitgangspunt kunnen of moeten worden van de technologie en de verdienmodellen die worden ontwikkeld. Ze zijn heel gewoon, maar zouden al een enorm verschil betekenen ten opzichte van de huidige praktijk. Ze geven ons houvast om een verder maatschappelijk debat te voeren over wat we redelijk, eerlijk en rechtvaardig vinden. Ze geven een aanknopingspunt om controle te houden over de ontwikkelingen doordat we ontwikkelaars en aanbieders kunnen bevragen vanuit deze principes: leg ons consumenten en burgers uit hoe je als bedrijf of overheid vormgeeft aan deze principes.

“Het is tijd dat ook de technologie en de businessmodellen volwassen worden”

Misschien betekent het dat bepaalde diensten niet gratis kunnen blijven. Onlangs werd uitgerekend dat een advertentievrij Facebook ongeveer 11 tot 14 dollar per maand zou moeten kosten. Dat zou het heel gezond kunnen maken: privacy heeft een prijs. Het zou zelfs een gelijker speelveld kunnen creëren met nieuwsmedia en andere contentpartijen en nieuwe toetreders die niet ‘gratis’ de dure content kunnen inkopen om hun platform gratis aan te bieden.

Een ‘eerlijkere’ wereld is helemaal niet zo moeilijk en het is zeker niet het einde van levensvatbare verdienmodellen. Het is tijd dat ook de technologie en de businessmodellen volwassen worden en dat we ze als burger en consument richting meegeven op basis van het ‘nieuwe normaal’ dat we met elkaar vaststellen.