Technologisering van de samenleving
De samenleving is in rap tempo gedigitaliseerd en geglobaliseerd. Het internet wordt ook wel de vierde industriële revolutie genoemd. Inmiddels evolueren we richting een super smart society 5.0. Techniek geeft vorm aan hoe we handelen en de wereld begrijpen. Techniek verbindt ons met de wereld met ons heen. Desalniettemin lopen regelgeving en beleid achter op de snelheid van deze technologische innovaties. Daardoor komen democratische waarden onder druk te staan. Waarden als autonomie, transparantie en privacy zijn van wezenlijk belang voor het functioneren van een democratie. Juist die waarden zouden door het klakkeloos implementeren van technologie in het gedrang kunnen komen.
Stroom aan data
In een digitale wereld werken dingen anders dan in de werkelijkheid zoals we die voorheen kenden. Privacy, bijvoorbeeld, betekent niet alleen dat achter je voordeur niemand meekijkt, maar ook dat je je in de publieke ruimte, op straat, vrij kunt bewegen zonder dat al je bewegingen en tussenstops worden gevolgd en gebruikt om je de volgende keer een bepaalde kant op te sturen. En toch vinden we het in de online wereld vrij normaal dat over al onze bewegingen, onze vragen en onze aankopen, gegevens worden bijgehouden. Gegevens waarvan we niet eens helder hebben waaróm ze verzameld worden, door wie, en aan wie ze worden doorgegeven. Met alle bewegingen die we maken, alle aankopen die we doen, elk bericht dat we aanklikken, laten we gegevens achter. Die berg aan ongestructureerde gegevens en onnavolgbare datastromen noemen we big data.
Meer toepassingen van AI
Met de opkomst van big data lijkt de toepassing van AI eveneens in een stroomversnelling te zijn geraakt. Om iets van deze gegevensbrij te kunnen maken, vertrouwen we op het gebruik van slimme algoritmes om patronen en verbanden te vinden die we met het blote oog niet meer zien. Algoritmes laten ons de wereld op een nieuwe manier begrijpen. Kunstmatige intelligentie of artificial intelligence (AI) is geen sciencefiction, het is allang overal om ons heen. Denk aan algoritmen die de prijs van een overnachting bepalen, aanbevelingen voor het kijken van bepaalde series, het doen van aankopen, de berichten die verschijnen in je newsfeed, de spamfilters in je mailbox.
Uitvergroten van menselijke zwakheden
AI wordt toegepast op steeds meer terreinen, van zorg tot handhaving, van cultuur tot rechtspraak. Het inzetten van AI helpt om processen beter te laten verlopen, maar het gaat nog lang niet altijd goed. Het is duidelijk dat AI de tekortkomingen van mensen, zoals een bepaalde vooringenomenheid en selectieve waarneming, kan uitvergroten en scheeftrekken. Denk aan de discriminerende sollicitatierobot van Amazon, die nieuw personeel selecteerde op basis van de eigenschappen van de vooral mannelijke werknemers die al bij het bedrijf in dienst waren. Of wat dacht je van Microsofts chatbot Tay, die binnen een dag transformeerde in een twitterbot vol racistische, seksistische uitlatingen? Vanuit het oogpunt van inclusiviteit moeten we ervoor zorgen dat die algoritmes die we gebruiken niet alleen op de goede manier zijn ontworpen, maar dat ze vooral goed worden ingebed in de praktijk.
Governance versterken
Langzaamaan begint het besef te ontstaan dat we met elkaar – overheid, toezichthouders, bedrijfsleven en burgers – moeten nadenken over de samenleving die we wensen, en hoe we binnen die samenleving omgaan met de gevolgen van dataficering. In het rapport Opwaarderen. Borgen van publieke waarden in de digitale samenleving (Rathenau Instituut, 2017) worden de fundamentele vragen uiteengezet die de digitalisering van de samenleving oproept. Het Rathenau Instituut roept op om publieke waarden te borgen door de governance over maatschappelijke en ethische aspecten van digitalisering te versterken.
Technologisch burgerschap
Daarnaast is een upgrade van burgers nodig om te voorkomen dat de ongelijkheid tussen digitaal vaardigen en digibeten toeneemt. Het Rathenau Instituut spreekt in dit kader van technologisch burgerschap: wat moeten we als burgers en professionals weten over AI? Technologisch burgerschap gaat over het kunnen gebruiken van technologie voor je persoonlijke en professionele leven, over weerbaarheid en bewustzijn van de werking van technologie en sociale media én over de institutionele kaders waarbinnen burgers en professionals mogen meepraten over het ontwerp en gebruik van technologie.
Immersieve technologie
De nieuwste technologie zit letterlijk steeds dichter op de huid. Denk aan wearables, toepassingen van virtual reality (VR), gezichtsherkenning en spraaktechnologie. Met de doorbraak van deze immersieve technologieën gaat de digitale samenleving een nieuwe fase in. De fysieke en digitale wereld raken meer dan ooit met elkaar verknoopt. Nu gaat het debat nog over privacy en veiligheid, maar er is meer in het geding. Dankzij VR, augmented reality (AR) en spraaktechnologie zal het onderscheid tussen de ‘echte’ wereld en de virtuele werkelijkheid steeds meer vervagen. Daarmee komen ook waarden als gelijke behandeling, menselijke waardigheid en gelijke machtsverhoudingen in het geding.
- Ontwerpeisen aan de samenleving
-
De urgente maatschappelijke en politieke vragen die dit oproept, zijn voor het Rathenau Instituut aanleiding geweest voor het opstellen van een nieuw manifest, waarin tien ontwerpeisen zijn opgesteld aan de digitale samenleving van morgen, die vragen om actie van de overheid, bedrijven en burgers. Een van de eisen gaat uit van bescherming tegen manipulatie en beïnvloeding. De intieme gegevens die bedrijven verzamelen, geven hun bijvoorbeeld tal van inzichten in iemands gedrag en voorkeuren. Dit biedt nieuwe mogelijkheden voor gerichte reclames, die op een direct en onbewust niveau kunnen inspelen op iemands voorkeuren, maar ook mogelijkheden om deep fakes in te zetten voor beïnvloeding en manipulatie.
De rol van de bibliotheek
Zien bibliotheken voor zichzelf een rol in deze ontwikkelingen weggelegd? Het is tenslotte hun taak om toegang te bieden tot offline én online informatie. Daarbij hoort ook het aanleren van de vaardigheden om te kunnen deelnemen aan de digitale samenleving. Dat houdt onder meer in dat bibliotheken burgers bewust kunnen maken van rechten en risico’s, maar ook dat bibliotheken hun eigen rol kritisch bezien. Hoe om te gaan met de inzet van AI? Hoe kunnen privacy en anonimiteit van bezoekers gewaarborgd blijven? Hoe zorgen we ervoor dat de publieke ruimte die de bibliotheek is, dat ook blijft, inclusief en pluriform? Een concrete stap is het ervoor zorgen dat iedereen basale kennis heeft van technologische ontwikkelingen en AI, zowel binnen de eigen organisatie als voor burgers die gebruikmaken van de bibliotheek. Dat kan bijvoorbeeld door het laten zien van wat er speelt, online en in de bibliotheek.
- Voorbeelden uit de bibliotheeksector
-
Data Detox Kit
Met de Data Detox Kit volg je een achtdaagse kuur, waarbij je elke dag een onderdeel van je digitale persoonlijkheid behandelt. Het doel is niet om je smartphone en sociale media minder te gebruiken, maar om er bewuster gebruik van te maken. De Data Detox Kit is een initiatief van het Fries Bibliotheken Netwerk.The Glass Room
Hoeveel (persoonlijke) data wordt er verzameld en wat gebeurt daarmee? De Glass Room, een tijdelijke tentoonstelling gericht op jongeren vanaf 10 jaar, maakt dit inzichtelijk. Het zet aan tot gesprekken over privacy en data delen en leert te doorzien wat het verband is tussen dataverzameling en nepnieuws. Ook maken bezoekers kennis met praktische tools om hier zelf meer grip op te krijgen, zoals de Data Detox Kit. Deze tentoonstelling was te zien in bibliotheken in Amsterdam en Leeuwarden. Ook werden bibliotheekmedewerkers getraind.
Dit artikel is grotendeels gebaseerd op rapporten van het Rathenau Instituut. Wie zich meer wil informeren over de impact van technologie op de samenleving, bevelen we sterk aan deze rapporten te lezen.
Bronnen
- Diggit Magazine (2019). Professor José van Dijck on Roday’s ‘Platform Society’. Geraadpleegd op 8-1-2021.
- Est, R. van & Gerritsen, J. (2017). Human Rights in the Robot Age. Challenges Arising from the Use of Robotics, Artificial Intelligence, and Virtual and Augmented Reality. Den Haag: Rathenau Instituut.
- Kennisnet (2018). Interview José van Dijk.
- Kool, L. (2020). Publieke waarden en de slimme stad.
- Kool, L., Timmer, J., Royakkers, L. & Est, R. van (2017). Opwaarderen. Borgen van publieke waarden in de digitale samenleving. Den Haag: Rathenau Instituut.
- Rathenau Instituut (2020). Rathenau Live 2020. Geraadpleegd op 8-1-2021.
- Rathenau Instituut (2020). Rathenau Manifest. Stel nu 10 ontwerpeisen aan de digitale samenleving van morgen. Geraadpleegd op 8-1-2021.
- Waag Society (2019). Datasamenleving en democratie. Geraadpleegd op 8-1-2021.