De robotmaatschappij, dat zijn wij

Digitale technologie stuit op ethische grenzen. Willen we een menswaardige robotsamenleving realiseren, dan moeten we aan de slag. Met een alternatieve kijk op technologie-ontwerp en twee nieuwe mensenrechten.

We leven in het tweede machinetijdperk. Machines krijgen nu ook denkkracht, nadat ze eeuwenlang spierkracht hebben vervangen. Ze verslaan ons in spellen als Go, leren zelfstandig autorijden en kunnen medische diagnoses stellen. Slimme machines vormen een nieuwe bron van economische productiviteit, welvaart en welzijn.

“Als we een menswaardige robotsamenleving willen realiseren, moeten we aan de slag. Opiniestuk @nrclive”
Tweet this!

Tegelijkertijd doemt een somber beeld op: robots nemen banen van mensen over, computers worden gehackt, havens en ziekenhuizen platgelegd en democratieën bedreigd. Jack Ma, topman van het Chinese Alibaba, waarschuwde eerder dit jaar voor ‘dertig jaar pijn’ die de digitale disruptie zal veroorzaken. Veel banen zullen verloren gaan, met sociale conflicten als gevolg. Ironisch genoeg zei hij dat dertig jaar geleden ook, toen hij zijn fortuin nog niet had verdiend met een bedrijf dat digitale disruptie naar een wereldniveau zou tillen. Ma vindt dat technologiebedrijven machines als partners van mensen moeten beschouwen, niet als hun vervangers. Zijn onderliggende boodschap is dat technologie ons niet overkomt, maar dat we er zelf vorm aan moeten geven. Daarin heeft hij gelijk. Willen we een menswaardige digitale samenleving realiseren, dan moeten we zelf aan de slag. Want die ontstaat niet vanzelf.

Robots nemen banen van mensen over, computers worden gehackt, havens en ziekenhuizen platgelegd en democratieën bedreigd

Verslavende technieken

Internet werd ooit gezien als democratische belofte, maar inmiddels wordt iedere klik nauwkeurig bijgehouden. Het is een walhalla geworden voor surveillance, psychologische experimenten en het gericht beïnvloeden van gedrag. Een continue stroom van real-time testen bepaalt hoe websites kunnen worden verbeterd, zonder dat gebruikers doorhebben dat ze proefkonijnen zijn. We zijn bovendien overal offline te volgen via de wifisignalen van onze smartphones. Verder bevatten apps, games en websites uitgekiende, verslavende technieken om ons steeds terug te laten keren. Met resultaat, want we checken onze smartphones gemiddeld 150 keer per dag.

In het tweede machinetijdperk staan kortom niet alleen onze privacy en onze autonomie onder druk; ook ons mentale welzijn heeft het zwaar. Jean Twenge, psycholoog aan San Diego State University, onderzoekt generatieverschillen sinds 1975. Ze ontdekte dat Amerikaanse tieners sinds de introductie van de iPhone in 2007 anders leven dan de generaties voor hen. Ze komen minder vaak het huis uit, hebben minder dates, komen substantieel slaap tekort en voelen zich vaak alleen en depressief. Nog niet duidelijk is of smartphonegebruik leidt tot slaapgebrek en vervolgens tot depressie, of andersom. De samenhang is voor Twenge in ieder geval sterk genoeg om ouders te adviseren dat die smartphone van hun kinderen vaker uit moet.

In het tweede machinetijdperk staan niet alleen onze privacy en onze autonomie onder druk; ook ons mentale welzijn heeft het zwaar

Dat betekent niet dat we de smartphone algeheel moeten verbannen. Wel moeten we in technologie-ontwerp altijd de menselijke waardigheid centraal stellen. De maatschappelijke impact van technologie hangt immers af van het ontwerp en het gebruik ervan. Een initiatief als Timewellspent laat zien hoe een alternatief, mensvriendelijk smartphone-ontwerp eruit kan zien. Bijvoorbeeld door een telefoon te ontwerpen waarin onze focus behouden blijft, en niet steeds verspringt. Er zijn ook tips om weer controle te krijgen over je smartphonegebruik: met aangepaste instellingen krijg je veel minder meldingen binnen.

De afgelopen decennia is er veel aandacht geweest voor de relatie tussen menselijke waardigheid en technologie in ons lichaam. Dat heeft geleid tot de regulering van biomedische technologie. Het is duidelijk dat biotechnologie op ethische grenzen stuit, en daarom gelden er bijzondere eisen in het innovatieproces. Niemand kijkt daar raar van op. Sterker nog, die voorzichtigheid wordt van overheden en bedrijven geëist.

Het is duidelijk dat biotechnologie op ethische grenzen stuit, en daarom gelden er bijzondere eisen in het innovatieproces.

Nieuwe mensenrechten nodig

Inmiddels weten we dat ook digitale technologie op grenzen stuit. Digitale technologie bevindt zich weliswaar buiten het lichaam, maar grijpt evengoed in op ons mens-zijn: het beïnvloedt ons denken, handelen en gevoelens. Het is tijd om deze fundamentele impact te erkennen en menselijke waardigheid in het digitale tijdperk veiligstellen. Dat vraagt niet alleen om een alternatieve kijk op technologie-ontwerp. We hebben ook nieuwe juridische kaders nodig.

Digitale technologie bevindt zich weliswaar buiten het lichaam, maar grijpt evengoed in op ons mens-zijn: het beïnvloedt ons denken, handelen en gevoelens.

Het Rathenau Instituut pleit daarom voor twee nieuwe mensenrechten, beide gerelateerd aan het huidige recht op eerbiediging van het privé- en familieleven. Ten eerste het recht om niet gemeten, geanalyseerd of beïnvloed te worden. Het moet de effecten van ongewenste beïnvloeding tegengaan. Hoe ver mag online beïnvloeding gaan? Welke verslavende technieken mogen wel en niet worden ingezet? Tot op heden is daar nauwelijks discussie over gevoerd. Het tweede nieuwe mensenrecht is het recht om te kunnen kiezen voor menselijk contact. Dat moet centraal blijven staan, want als mens hebben we relaties nodig met andere mensen. Het belang van dit recht zien we overal terug, zowel bij het nadenken over smartphonegebruik, als bij zorgrobots.

Maar dan moeten we niet alleen naar de overheid of bedrijven kijken. Zelf spelen we ook een rol. Ik moet toegeven dat ik zelf ook 150 keer per dag mijn smartphone check, onbewust, en dat ook ik trekjes van een verslaafde vertoon. Daar ga ik wat aan doen. Mijn instellingen zijn aangepast en de eerste ‘zelfhulpapps’ heb ik geïnstalleerd. En wat doet u?


Linda doet onderzoek naar de maatschappelijke gevolgen van ICT-innovaties en opkomende technologieën, zoals robotica, kunstmatige intelligentie, big data en het internet of things. Ze is mede-auteur van het Rathenau rapport Mensenrechten in het Robottijdperk, op basis waarvan zij één van de discussies in de NRC Live Lagerhuissessie  zal aftrappen.


Impact Robotisering 2017

Wat zijn de businesskansen van slimme machines? Laat je volledig informeren door Linda en vele andere topsprekers op 12 oktober 2017 tijdens Impact Robotisering van NRC Live.

Bekijk het programma

Blijf op de hoogte!

Blijf op de hoogte!

Wil je op de hoogte blijven van toekomstige NRC Live events? Schrijf je dan in voor onze nieuwsbrief!

Suggesties voor een spreker?

Suggesties voor een spreker?

Ken jij iemand die goed zou kunnen spreken op een van onze events? Stel dan een spreker aan ons voor!