Wapen je tegen het allesbehalve neutrale algoritme

– 3 minuten leestijd –

OPINIE – De mens is tot vrijheid veroordeeld, stelde Jean-Paul Sartre. Maar je gedrag en keuzes zijn minder vrij dan je misschien denkt. Op diverse manieren worden we onbewust gestuurd. Geuren, bijvoorbeeld, kunnen ons aanzetten tot aankoopgedrag. Het verspreiden van chocoladegeur in boekhandels kan de verkoop van kookboeken en romantische boeken doen stijgen. En als je je huis wilt verkopen, doe je er goed aan om een taart te bakken: de geur van huiselijkheid kan de potentiële koper overstag doen gaan. Ook online worden we gestuurd: algoritmen beïnvloeden hoe wij vandaag de wereld zien. Hun invloed wordt alleen maar groter in de slimme wereld van het Internet of Things.

Niet neutraal
Telkens als je een zoekopdracht ingeeft bij Google berekenen algoritmen welke data gerangschikt worden als resultaten in een overzicht. Zij bepalen wat we wel en niet te zien krijgen. Die resultaten zijn steeds gefilterd en allesbehalve neutraal. Hoewel de rangschikking onder meer beïnvloed is door commerciële belangen, denken veel mensen nog steeds dat de eerste resultaten bij een onlinezoekopdracht de ‘meest betrouwbare’ zijn.

“De invloed van algoritmen wordt alleen maar groter in de slimme wereld van het Internet of Things”

Zelfs ontwikkelaars kunnen niet voorspellen welke keuzes de algoritmen zullen maken, omdat het systeem ook rekening houdt met individuele zoekgeschiedenis en surfgedrag. Verder zorgt ‘search engine optimization’ (SEO) ervoor dat webbeheerders en bedrijven de rangschikking kunnen beïnvloeden. Voor bedrijven is het essentieel om zo hoog mogelijk te verschijnen in de resultatenlijst: weinigen onder ons doorzoeken immers de lager gerangschikte resultaten.

Bedrijfsgeheim
In een serie gecontroleerde experimenten manipuleerden Amerikaanse onderzoekers resultaten zodat een zoekmachine een duidelijke voorkeur voor een specifieke kandidaat voor verkiezingen aangaf, op basis van rangschikking in de zoekresultaten. Respondenten die voor de zoekopdracht geen specifieke voorkeur voor een kandidaat uitspraken, bleken erna significant meer voorkeur te vertonen voor de kandidaat die ‘toevallig’ telkens bovenaan de rangschikking verscheen.

De meerderheid van de respondenten die vooringenomen resultaten zag, had niet eens door dat de rangschikking gemanipuleerd was. Deze experimenten leggen de gevaren bloot: wie algoritmen goed weet te bespelen, kan gedachten beïnvloeden.

“Wie algoritmen goed weet te bespelen, kan gedachten beïnvloeden”

We mogen zeker niet kritiekloos blijven voor onze blinde vlekken: kochten we het product omdat het ons werkelijk ‘het beste’ leek of omdat het bovenaan verscheen bij Google Shopping? De zoekmachine van Google is een filter waardoor talloze mensen zich informeren over de wereld. En Google heeft niet veel last van concurrentie. Bovendien heeft het bedrijf ook Gmail, Android en YouTube in handen. Hoe meer informatie over ons bekend is, hoe persoonlijker en gerichter algoritmen ons sturen.

Op basis van onze data gieten dataminers en databrokers ons in profielen. Algoritmen kunnen individuen benadelen: advertenties voor goedbetaalde jobs blijken minder vaak bij vrouwen te verschijnen. Het blijft problematisch dat we nog altijd zo weinig weten over de logica die erachter schuilt, omdat algoritmen meestal goed bewaarde bedrijfsgeheimen zijn.

“Advertenties voor goedbetaalde jobs blijken minder vaak bij vrouwen te verschijnen”

Ongeïnformeerd over informatie
De slimme wereld creëert niet alleen mogelijkheden, maar ook valkuilen. Ook met ‘precrime methodology’ moeten we waakzaam opspringen. De methode probeert aan de hand van algoritmen te voorspellen waar in de nabije toekomst een misdaad begaan zal worden.

De werking ervan is onder andere afhankelijk van de kwaliteit van de data waar je de algoritmen mee ‘voedt’. Hierdoor is het gevaar reëel dat er discriminatie insluipt. Er wordt vandaag hard ingezet op machine learning, maar als onze vooroordelen erin blijven sluipen, dan zal de technologie die alleen bevestigen.

We moeten ons collectief beter informeren over hoe informatie aan ons wordt voorgeschoteld. De roep om kritisch denken en mediawijsheid, voor jong en oud, kan niet luid genoeg klinken. Een belangrijke taak is weggelegd voor het beleid en het onderwijs, maar ook voor onszelf. Enkel door bewustwording van de problemen kan je ze aanpakken.


Katleen is als moraalfilosofe en computerethicus verbonden aan de Vrije Universiteit Brussel, waar ze ook ‘filosofie en ethiek van de technologische cultuur’ en ‘business and consumer ethics’ doceert. Ze bestudeert de ethische gevolgen van Internet of Things en is auteur van Onlife. Hoe de digitale wereld je leven bepaalt, door Liberales uitgeroepen tot ‘Boek van het jaar 2016’.


In aanloop naar het NRC Live Event ‘De Slimme Wereld‘ deelt NRC Live iedere week één of meerdere (opinie)stukken van onze sprekers.

Bekijk het programma

Blijf op de hoogte!

Blijf op de hoogte!

Wil je op de hoogte blijven van toekomstige NRC Live events? Schrijf je dan in voor onze nieuwsbrief!

Suggesties voor een spreker?

Suggesties voor een spreker?

Ken jij iemand die goed zou kunnen spreken op een van onze events? Stel dan een spreker aan ons voor!