Hoe beschermen we burgers tegen algoritmes?

Hoogstwaarschijnlijk wordt net voor de zomervakantie een nieuwe wet van kracht. Daarmee zullen de gegevens van vliegtuigpassagiers langdurig worden opgeslagen en via algoritmes verwerkt. Weer een voorbeeld van data-gestuurde opsporing. Maar hoe voorkomen we dat burgers machteloos staan tegenover de conclusie van een algoritme? Dat mensen niet mogen landen in Spanje omdat de computer dat nu eenmaal zegt? GroenLinks pleit voor openbaarheid van de wiskundige computerformules die ons leven steeds meer sturen.

“Hoe voorkomen we dat burgers machteloos staan tegenover de conclusie van een algoritme? Lees opiniestuk @kathalijne dat zij schreef voor @nrclive”
Tweet this!

Hoe meer data, hoe beter?

Natuurlijk vraagt de overheid naar je naam en paspoortnummer als je de grens overgaat. Maar waarom is het geïnteresseerd in je creditcardgegevens of naast wie je in het vliegtuig zat? En welke conclusie trekt het uit je verzoek om een koosjere of een vegetarische maaltijd? Het Europese plan voor het opslaan van Passenger Name Record (PNR) bestaat al lang. Maar tot voor kort was een meerderheid in de Tweede Kamer mordicus tegen zo’n ‘vakantieregister’, zoals VVD-fractievoorzitter Dijkhoff het noemde. Inmiddels liggen de kaarten anders. Het kabinet stelt zelfs voor om méér gegevens te gaan verzamelen dan strikt noodzakelijk is om aan de Europese afspraken te voldoen. Het wil niet alleen informatie opslaan van passagiers die van- en naar de Europese Unie vliegen, maar ook van reizigers die binnen de EU blijven. Blijkbaar geldt: hoe meer data, hoe beter.

Het kabinet stelt zelfs voor om méér gegevens te gaan verzamelen dan strikt noodzakelijk is om aan de Europese afspraken te voldoen

De meerwaarde van Big Data

De afgelopen jaren is steeds meer vertrouwen ontstaan in de meerwaarde van Big Data. Daarbij gaat de overheid op zoek naar nog onbekende verbanden en patronen door middel van het combineren van steeds meer gegevens. Mensen worden geprofileerd: in groepen ingedeeld, om hun gedrag te voorspellen. En dat gebeurt niet alleen op het gebied van veiligheid. De gemeente Dordrecht bepaalt via een algoritme (een formule die conclusies trekt uit alle data) welke spijbelaar er met een waarschuwende brief vanaf komt, en bij wie de leerplichtambtenaar aan de deur verschijnt. En het Ministerie van Sociale Zaken en Werkgelegenheid heeft een Systeem Risico Indicatie (SyRi) opgetuigd, om in te schatten welk type burgers gaat frauderen, en dus scherp onderzocht moet worden.

“Mensen worden geprofileerd: in groepen ingedeeld, om hun gedrag te voorspellen. En dat gebeurt niet alleen op het gebied van veiligheid”

Effectiviteit van data-gedreven aanpak

Een data-gedreven aanpak is niet altijd effectief. Het zoeken van patronen werkt vooral bij het opsporen van misdaden met een regelmatig en terugkerend karakter, zoals woninginbraken. Bij terrorisme dient profileren zijn doel juist niet. In het rapport Big Data in een vrije en veilige samenleving, stelt de Wetenschappelijke Raad voor het Regeringsbeleid (WRR): “Omdat elke terroristische aanslag uniek is, is het nagenoeg onmogelijk om een goed profiel te maken. In combinatie met een gering aantal aanslagen levert dit te hoge foutpercentages op.” Een veiliger Nederland is bij terrorisme vooral gebaat bij gerichte opsporing.

“Bij terrorisme dient profileren zijn doel juist niet.”

De meerwaarde van Big Data moet steeds zorgvuldig worden gewogen. En daarbij moet ook gekeken worden naar de keerzijde van het profileren. Allereerst voor de samenleving als geheel: permanente monitoring van burgers maakt onvrij. Als je bang moet zijn dat de overheid meekijkt met elke muisklik, elke boekaankoop en elke vakantiebestemming, is de afstand tussen burger en overheid te klein. Zoals in China. Daar wordt geëxperimenteerd met een ‘sociaal kredietsysteem’. Je krijgt punten voor goede daden, zoals het nakomen van financiële verplichtingen, het doneren van bloed en het respecteren van autoriteiten. Puntenaftrek dreigt als je niet goed zorgt voor je bejaarde ouders, als de hond niet is aangelijnd en als je in de verkeerde kringen verkeerd. De Chinese overheid zegt zo het land veiliger en socialer te maken. Maar voor veel mensen is het een horrorscenario. Omdat het een ernstige aantasting is van de vrijheid om jezelf te kunnen zijn.

De meerwaarde van Big Data moet steeds zorgvuldig worden gewogen.

Omdat de computer het zegt..

Profilering staat ook al snel op gespannen voet met het gelijkheidsbeginsel. De algoritmes die conclusies trekken en de categorieën data die verzameld worden, zijn het product van aannames en kunstmatige indelingen. Ze zeggen niets definitiefs over de mensen die het betreft. Maar voor sommige groepen zullen de gevolgen groot zijn. Zo mocht een aantal mensen Amerika niet in, simpelweg op basis van aannames van een algoritme: “the computer says no”. Voor deze groepen wordt de overheid steeds minder betrouwbaar, en de samenleving minder veilig.

Voor sommige groepen wordt de overheid steeds minder betrouwbaar, en de samenleving minder veilig

Het opslaan en analyseren van passagiersgegevens is begonnen als een eis van de Amerikanen. Die gaan ons voor in steeds verdergaande opsporing via Big Data. Maar Amerika biedt ook inspiratie over hoe we de macht tussen burger en overheid kunnen herstellen. In New York treedt burgemeester De Blasio ten strijde tegen discriminatie en uitsluiting die veroorzaakt wordt door algoritmes. Op 18 mei jl. heeft hij een speciale taskforce gevraagd de verzamelde data en formules tegen het licht houden. Werken ze, en wat zijn hun gevolgen? Een goed voorbeeld voor Nederland.

In New York treedt burgemeester De Blasio ten strijde tegen discriminatie en uitsluiting die veroorzaakt wordt door algoritmes

Algoritmes moeten niet alleen getest worden door experts, maar ook navolgbaar zijn voor burgers die geraakt worden door beslissingen. “Omdat de computer het zegt’, kan nooit een aanvaardbaar antwoord zijn. Behalve als het echt niet verstandig is, bv om veiligheidsredenen, moeten algoritmes daarom openbaar worden. Dat opent ook de weg voor (juridische) toetsing. Burgerrechtenorganisaties zouden de kans moeten krijgen om in bepaalde gevallen collectieve actie te ondernemen. Niet namens een bijzondere groep gedupeerden, maar voor de samenleving. Omdat Big Data ook niet alleen verdachte burgers raakt. Maar ons allemaal.


Als Tweede Kamerlid en vice-fractievoorzitter van Groenlinks houdt Kathalijne zich bezig met politie, veiligheid, justitie, AIVD en het referendum aftapwet. Onderdeel daarvan is onder meer de vraag welke democratische processen en juridische waarborgen nodig zijn om technologische vernieuwing in goede banen te leiden.


In aanloop naar het NRC Live event over Kunstmatige Intelligentie delen wij regelmatig opiniestukken van onze sprekers.

Bekijk programma

Blijf op de hoogte!

Blijf op de hoogte!

Wil je op de hoogte blijven van toekomstige NRC Live events? Schrijf je dan in voor onze nieuwsbrief!

Suggesties voor een spreker?

Suggesties voor een spreker?

Ken jij iemand die goed zou kunnen spreken op een van onze events? Stel dan een spreker aan ons voor!