Angst belemmert ontwikkeling verantwoorde artificial intelligence

Doemscenario’s van intelligente robots die de mensheid bedreigen en overheersen veroorzaken angst in de samenleving. Innovatie en een verantwoorde ontwikkeling van artificial intelligence (AI) worden daardoor bemoeilijkt. Daarom neemt ECP het initiatief om de hype van de realiteit te scheiden door een inhoudelijke discussie aan te gaan met bedrijven, overheid en maatschappelijke organisaties en een AI Impact Assessment te ontwikkelen als hulpmiddel voor verantwoorde AI-toepassingen.

“Angst belemmert ontwikkeling verantwoorde #ai. Lees meer in opiniestuk @danielfrijters, dat hij schreef voor @nrclive”
Tweet this!

Maatschappelijk en ethische vraagstukken

Kunstmatige intelligentie is geen revolutie. Het is een ontwikkeling die langzaamaan onze samenleving binnentreedt en zich ontwikkelt tot een bouwsteen voor de digitale samenleving. Door steeds hype van realiteit te scheiden, partijen te duiden en te verbinden én de balans te bewaken tussen mogelijkheden, ethiek en rechtsbescherming, zullen we meer en meer de vruchten plukken van AI. Maar, dan moeten we wel maatschappelijke en ethische vraagstukken adresseren met elkaar.

Kunstmatige intelligentie is geen revolutie. Het is een ontwikkeling die langzaamaan onze samenleving binnentreedt en zich ontwikkelt tot een bouwsteen voor de digitale samenleving.

Hoewel we nog niet bang hoeven zijn voor computersystemen die van zichzelf bewust zijn en zelfstandig doelen nastreven, hebben we al wel te maken met andere vormen van kunstmatige intelligentie. Deze technologie ontwikkelt zich snel en brengt nieuwe maatschappelijke vraagstukken met zich mee. Een aantal daarvan zetten we op een rij.

  1. Zelflerende systemen presteren in afgebakende domeinen beter dan mensen, omdat ze onvoorspelbaar zijn. Zij worden niet gehinderd door menselijke strategieën, cultuur, gewoontes, best-practices en ethische overwegingen.
  2. Hoewel AI-systemen op specifiek afgebakende terreinen en met bepaalde taken beter scoren dan mensen, leggen ze het af in flexibele en open omgevingen. Het is dan ook vooral de mens-machine combinatie die echt tot significant betere resultaten leidt. Gevolg is dat veel repetitief en rule-based werk zal verdwijnen, terwijl ander werk vraagt om nieuwe vaardigheden voor het samenwerken met intelligente systemen. Businesscases veranderen en er zijn voorbeelden van bedrijven die daardoor meer werkgelegenheid creëren. Welke consequenties heeft AI voor economie, werkgelegenheid en onderwijs?
  3. De belangrijkste spelers op het gebied van kunstmatige intelligentie zijn een aantal grote technologiebedrijven. Zij investeren veel, doen veel onderzoek en patenteren hun ideeën en toepassingen. Veel kleinere bedrijven en organisaties bouwen voort op de AI platformen van deze grote bedrijven, die daardoor een sterke marktpositie hebben. Voorkomen moet worden dat de meeste data in handen komt van slechts enkele partijen. Welke duidelijke afspraken over eigenaarschap van data zijn hiervoor nodig?
  4. Intelligente systemen nemen besluiten op basis van beslisregels of algoritmen in combinatie met data. Hoe dat besluitvormingsproces tot stand komt, is vaak niet transparant en inzichtelijk. Bij zelflerende systemen is het voor mensen onnavolgbaar en moeilijk te doorgronden. De verantwoordelijkheid voor genomen besluiten is daardoor lastig te adresseren. Het publiek heeft belang bij transparantie en inzage in de werking van intelligente systemen. Daarbij zal rekening gehouden moeten worden met het intellectueel eigendom van de leveranciers. Hoe brengen we die transparantie tot stand?
  5. Veiligheid en cybersecurity zijn onlosmakelijk verbonden aan kunstmatige intelligentie en hebben topprioriteit. Niemand wil dat autonome systemen worden gehackt, waarna ze zichzelf herprogrammeren en een andere taak gaan uitvoeren.
  6. Systemen filteren informatie op een zodanige manier, dat het beeld van de werkelijkheid verandert. Dit wordt funelling genoemd. Hoe zorgen we ervoor dat de wensen, prioriteiten en keuzes van mensen zoveel mogelijk zelfstandig en afgewogen tot stand komen op basis van onafhankelijke informatiebronnen?

Naast maatschappelijk vraagstukken zijn er ook ethische vraagstukken. Het Rathenau Instituut schrijft in zijn rapport ‘Opwaarderen’ dat een nieuwe golf van digitalisering, zoals de inzet van geautomatiseerde kunstmatige intelligentie, belangrijke publieke waarden onder druk zet. Het gaat bijvoorbeeld om publieke waarden als gelijke behandeling, privacy, autonomie, menselijke waardigheid, rechtvaardigheid, machtsverhouding en controle over technologie.

Zo blijken softwareprogramma’s die rechters in de Verenigde Staten bijstaan door de kans te berekenen dat een verdachte opnieuw de fout ingaat, in sommige gevallen te discrimineren. Een controversieel onderzoek van de Stanford Universiteit toont aan dat een slimme computer de seksuele geaardheid van een persoon letterlijk van zijn gezicht kan aflezen. Van een veel gebruikt HRM-systeem is bekend dat zelflerende algoritmen helpen bij het sneller en beter selecteren van sollicitanten. Dit gebeurt op basis van informatie en foto’s van succesvolle mensen, waardoor mogelijk discriminatie plaatsvindt. Artificial intelligence, en ook de redenerende (rule-based) systemen als voorloper daarvan, raakt gemakkelijk aan  de fundamenten van de rechtsstaat.

Artificial intelligence raakt gemakkelijk aan  de fundamenten van de rechtsstaat.

Als AI-systemen een rol gaan spelen in wetgeving, verandert het samenspel van burgers, bedrijven, politiek en overheid. De vraag doet zich voor of de checks-and-balances nog voldoende bescherming bieden in deze nieuwe situatie.

Dialoog over urgentie vragen

Vanwege de grote maatschappelijke impact van kunstmatige intelligentie is het van belang dat bedrijven, overheid, kennisinstellingen, politici, bestuurders en eindgebruikers met elkaar in gesprek gaan over dit onderwerp. Hoe benutten we de kansen die kunstmatige intelligentie biedt? En hoe zorgen we er gelijktijdig voor dat intelligente toepassingen rekening houden met voor mensen belangrijke ethische en juridische waarden? Deze vragen zijn urgent nu zelfrijdende auto’s, robotrechters en zorgrobots hun intrede doen en nieuwe toepassingen voor de deur staan.

In kaart brengen van de impact van AI

Voor het formuleren van antwoorden werkt ECP met haar deelnemers verder in de daarvoor ingerichte werkgroep Kunstmatige Intelligentie. De werkgroep ontwikkelt tevens een AI Impact Assessment als hulpmiddel voor het vroegtijdig onderkennen van de maatschappelijke, ethische, juridische en organisatorische impact van AI-gebruik. Zo krijgt een verantwoorde ontwikkeling en inbedding van kunstmatige intelligentie in de samenleving de aandacht die het verdient. Niemand is gebaat bij een samenleving die grootschalig gebruikmaakt van onverantwoorde intelligente systemen zonder ethisch besef.

Niemand is gebaat bij een samenleving die grootschalig gebruikmaakt van onverantwoorde intelligente systemen zonder ethisch besef.

Menselijke controle inbouwen

Innovaties bieden nieuwe mogelijkheden en nieuwe economische kansen, maar er ontstaan ook ethische en maatschappelijke vraagstukken. De hype met gevaarlijke cyborgs miskent de realiteit dat er nu al systemen zijn die niet-transparant tot een resultaat komen. De discussie moet daarom niet zo zeer gaan over kunstmatige intelligentie als technologie, maar over wenselijkheid of onwenselijkheid om menselijke controle in te bouwen.


Daniël is actief binnen ECP|Platform voor de InformatieSamenleving als MT-lid, manager en Projectadviseur ICT-innovatie. Naast de begeleiding van een speciaal ingerichte juridisch-ethische werkgroep Kunstmatige Intelligentie, wil het platform bedrijven, overheid, maatschappelijke organisaties en burgers helpen om kunstmatige intelligentie op een verantwoorde manier te implementeren. Een eerste stap hierin is de ontwikkeling van een AI Impact Assessment. Daniël is daarnaast lid van het door het Ministerie van Economische Zaken & Klimaat benoemde Team ICT en werkt in die hoedanigheid aan kennis en waarde creatie op het gebied van ICT-innovatie – zoals Artificial Intelligence – in Nederland.


In aanloop naar de NRC Live conferentie over Kunstmatige Intelligentie delen wij regelmatig opiniestukken van onze sprekers

Bekijk programma

Blijf op de hoogte!

Blijf op de hoogte!

Wil je op de hoogte blijven van toekomstige NRC Live events? Schrijf je dan in voor onze nieuwsbrief!

Suggesties voor een spreker?

Suggesties voor een spreker?

Ken jij iemand die goed zou kunnen spreken op een van onze events? Stel dan een spreker aan ons voor!