Informatie voor het bibliotheeknetwerk

Dossier Digitaal Burgerschap

Schaduwkanten van de digitale samenleving

Over de keerzijde van de groeiende online mogelijkheden
Het digitale debat kent zowel fervente techoptimisten als felle techpessimisten. Ze verschillen van mening over de vraag of we de rap voortschrijdende digitale ontwikkelingen te vieren of juist te wantrouwen. Daarover hebben de volgende denkers zo hun ideeën: zij zien dat de wereld onherroepelijk veranderd is en zoeken naar manieren om het nieuwe met het goede te combineren. Lees meer over hun kritische gedachten over de ondoorzichtigheid van algoritmes, de pretenties die met de ontwikkeling van artificiële intelligentie gepaard gaan en het techutopisme, dat gelooft dat het menselijk falen kan worden opgelost door onfeilbare technologieën.

Marleen Stikker: het internet is stuk

Het internet is stuk, aldus Marleen Stikker, oprichter van Waag, een leidend Europees onderzoeksinstituut voor technologie en maatschappij. In haar gelijknamige boek schetst Stikker de veelbelovende begintijd van het internet, toen het leek alsof het wereldwijde web nog een democratisch vormgegeven plek zou kunnen worden. De opkomst van techreuzen gooide echter roet in het eten: we worden afgeluisterd, gestuurd, gevolgd, geleefd. Onze persoonlijke soevereiniteit is op het spel komen te staan – en dat hebben we zelf laten gebeuren. Hoe trekken we de macht over ons digitale leven weer naar ons toe? Hoe repareren we het internet? Gelukkig is het daarvoor volgens Stikker nog niet te laat. We kunnen het ontwerp aanpassen, opdat maatschappelijke belangen weer gaan heersen over economische. Dat doen we door het publieke belang centraal te stellen en het te benaderen als commons. Daarin ligt een taak voor de overheid: zij kan door wet- en regelgeving en het bouwen van alternatieven een veilige publieke ruimte garanderen en de Big Tech bestrijden. Ook moet meer aandacht komen voor het stimuleren van een kritisch bewustzijn en een makermindset, bijvoorbeeld via het onderwijs.

Kijk naar de Zomergasten-aflevering met Marleen Stikker

Shoshana Zuboff: surveillancekapitalisme

Volgens Shoshana Zuboff leven we in een wereld van surveillancekapitalisme. Grote techbedrijven oogsten informatie over individuen en bieden ons op basis daarvan diensten en producten aan. Die benadering maakt de mens tot niets meer dan een wandelende portemonnee zonder enige vorm van autonomie. En daar helpen we zelf aan mee: door cookies te accepteren, apps te installeren, accounts aan te maken en gebruiksvoorwaarden te negeren. Sturende advertenties en voortdurende tracking van ons digitale én analoge gedrag zijn het gevolg. En steeds meer apparaten worden smart: niet alleen onze telefoon en laptop kijken tegenwoordig met ons mee, maar ook onze televisie, koelkast en oven weten in de nabije toekomst meer over ons dan we denken. Een omgekeerde beweging kunnen we alleen maken door ons bewust te worden van al die afdracht van informatie en ons ertegen te verzetten, betoogt Zuboff. AI is het niet zozeer op persoonlijk vlak te remmen, maar eerder een structureel maatschappelijk probleem dat ook als zodanig moet worden geadresseerd.

Lees het artikel De mens als grondstof van De Groene Amsterdammer over Zuboffs gedachtegoed

Kriti Sharma: AI for Good

Hoewel AI vaak met angstige ogen wordt bekeken, zet Kriti Sharma deze techologie juist in om de grootste uitdadingen van onze tijd aan te pakken – van huiselijk geweld tot seksuele gezondheid en ongelijkheid. Ze creëerde een digitale metgezel voor Zuid-Afrikaanse vrouwen die te maken hebben met huiselijk geweld. Ook lanceerde ze Dr. Sneha, een digitaal personage dat met jonge mensen in gesprek gaat over hun seksuele gezondheid, een onderwerp dat in India nog steeds als een taboe wordt beschouwd. Zo ontstaan mensvriendelijke algoritmen, die lijnrecht staat tegenover het gebrek aan diversiteit waarmee AI-technologie normaal gesproken is behept.

Bekijk de TEDtalk van Kriti Sharma en het interview met Biebapalooza

Cathy O'Neil: Weapons of Math Destruction

In haar boek Weapons of Math Destruction onderzoekt de Amerikaanse wiskunde Cathy O’Neil de invloed van het gebruik van big data en algoritmes op allerlei gebieden in ons leven, waaronder verzekeringen, reclame en het onderwijs. Haar conclusie: algoritmen – hoewel vaak gezien als neutrale wiskundige instrumenten - vergroten de kloof tussen de haves en de have-nots. Ze trekken de rijken voor en benaderen de armen, versterken racisme en vergoten ongelijkheid. Als voorbeeld van zo’n discriminerend effect noemt ze de arme student die geen lening kan krijgen omdat dat op grond van zijn postcode te riskant wordt gevonden, waardoor het onderwijs dat hem uit zijn beperkte leefwereld kan trekken hem wordt ontzegd. Deze vicieuze cirkel moeten we volgens O’Neil doorbreken. Ze roept de bouwers van deze algoritmen op meer verantwoordelijkheid te nemen voor hun producten en vraagt beleidsmakers met klem het gebruik ervan te reguleren.

Bezoek de website over Weapons of Math Distruction

Brittany Kaiser: De datadictatuur

Brittany Kaiser mag met recht een insider in de datadictatuur worden genoemd: ze was directeur bij Cambridge Analytica, het bedrijf dat op Facebook op grote schaal gegevens verzamelde van gebruikers en hun vrienden. Adverteerders konden deze data tegen betaling gebruiken om hun advertenties nog beter af te stemmen op hun doelgroep. Dat klinkt onschuldig, maar niets is minder waar: op die manier zorgde Cambridge Analytica ervoor dat miljoenen mensen werden gemanipuleerd in hun gedachten en gedrag, leidend tot andere aankopen, handelingen en keuzes in het stemhokje. Was Groot-Brittannië zonder deze data wel uit de Europese Unie gestapt? Had Donald Trump ooit de Amerikaanse verkiezingen kunnen winnen? Na het grote privacyschandaal rondom Facebook kwam het bedrijf in het voorjaar van 2018 ten val – mede door klokkenluider Brittany Kaiser. In De datadictatuur. Hoe je wordt gemanipuleerd in wat je doet, denkt en stemt vertelt zij hoe zij als jonge, ambitieuze, idealistische vrouw verstrikt raakte in het wereldwijde web van dataverzameling, data-analyse en dataverkoop, en wat haar verhaal ons kan leren over digitale privacy.

Lees het verhaal van Brittany Kaiser in De Morgen

Platform Bescherming Burgerrechten: overheidsinformatie

Begin 2018 daagden schrijvers Maxim Februari en Tommy Wieringa, in navolging van een groep burgers, de Nederlandse staat voor de rechter. Zij verzetten zich tegen de verzameling van gegevens over burgers door de overheid. Het Rijk gebruikt zulke informatie bijvoorbeeld om te voorspellen hoe groot de kans is dat iemand zal frauderen, zodat diegene extra in de gaten kan worden gehouden. Tegen deze Systeem Risico Indicatie (SyRI), die sinds 2014 door de overheid wordt gebruikt, kwam het Platform Bescherming Burgerrechten in opstand. De burger is tenslotte niet op de hoogte van de selectie van deze gegevens en de manier waarop wordt vastgesteld wie wel en wie geen risico vormt. Zij wisten zich gesteund door Stichting Privacy First en het Nederlands Juristencomité voor de Mensenrechten. Ook de Raad van State en het toenmalige College Bescherming Persoonsgegevens hadden bij de inwerkingstelling van het systeem al bezwaren.

Ga naar de website van het Platform Bescherming Burgerrechten