Gezichtsherkenning is een doos van Pandora

Geautomatiseerde gezichtsherkenning moet streng gereguleerd worden, betoogt . Anders is het straks te laat.

Eind december 2018 kwam in het nieuws dat de gemeente Beijing gezichtsherkenning gaat inzetten om illegale verhuur van sociale woningen te bestrijden. ‘Slimme sloten’ met biometrische camera’s zijn in staat om huurders te herkennen en onbekenden buiten te sluiten. Volgens de South China Morning Post maakt de Chinese overheid steeds vaker gebruik van camera’s met gezichtsherkenning om het gedrag van burgers te controleren.

Dit nieuws lijkt tot weinig beroering te hebben geleid. Intussen worden tools met gezichtsherkenning in ons dagelijks leven steeds gewoner, zoals gezichtsherkenning in foto’s op sociale media of de functie ‘Face ID’op de nieuwe iPhone. Deze toepassingen lijken onschuldig, maar de privacyrisico’s van deze technologie zijn ongekend groot.

“Gezichtsherkenning moet streng gereguleerd worden, betoogt Berber Brouwer in NRC.”
Tweet this!

De Nederlandse overheid start in 2020 een verkennend onderzoek naar de toepassing van automatische gezichtsherkenning voor identificatiedoeleinden. Door de politie wordt al gebruik gemaakt van gezichtsherkenning voor opsporing van verdachten. Dit zijn eerste stappen naar ongetwijfeld steeds ruimere inzet van gezichtsherkenningstechnieken door de overheid. Ervaring leert dat, in het belang van veiligheid en bestrijding van criminaliteit, privacy hierbij altijd het onderspit delft. Het risico op misbruik van verzamelde gegevens wordt weggewuifd met toezeggingen over zorgvuldig gebruik. Die bestaan wellicht op papier, maar beschermen onvoldoende tegen overheden en bedrijven die ons leven al volledig zijn binnengedrongen.

De toepassingen lijken onschuldig, maar de privacyrisico’s van deze technologie zijn ongekend groot.
– Berber Brouwer, spreker op ‘Winnen met AI’

Eind 2017 werd door vooraanstaande wetenschappers gewaarschuwd voor zogenaamde ‘slaughterbots’ in een extreem beangstigende video die laat zien hoe voorgeprogrammeerde minidrones met gezichtsherkenning in staat zijn menselijke doelwitten op te sporen en uit te schakelen met een explosieve lading. Deze autonoom opererende ‘zwermdrones’ zijn in precisieaanvallen effectiever dan een mens ooit zal kunnen zijn. De video is nauwelijks sciencefiction: door de combinatie van bestaande technologieën is de mens nu al in staat deze killer drones te maken.

Het inschakelen van een menselijk moordcommando om een Khashoggi of Ahmad Mola Nissi (een Iraanse activist die in Nederland werd geliquideerd) uit te schakelen is dan in de toekomst niet meer nodig. Iedere dictator, terreurgroepering of topcrimineel zal in de toekomst over deze technologie kunnen beschikken wanneer niet nu op internationaal niveau afspraken worden gemaakt.

Lees het hele artikel op NRC.nl

Verder met AI?

Tijdens de tweedaagse masterclass AI voor managers leer je hoe je kan beginnen met AI binnen jouw bedrijf.

Meer informatie over de masterclass

Blijf op de hoogte!

Blijf op de hoogte!

Wil je op de hoogte blijven van toekomstige NRC Live events? Schrijf je dan in voor onze nieuwsbrief!

Suggesties voor een spreker?

Suggesties voor een spreker?

Ken jij iemand die goed zou kunnen spreken op een van onze events? Stel dan een spreker aan ons voor!