Hoe big data ons figuranten van Kafka maakt

07 jan Hoe big data ons figuranten van Kafka maakt

Digitale surveillance

Tijdens haar keynote voor het seminar Computer Ethics aan de Nyenrode Business Universiteit stelde Professor Deborah Johnson dat discussies over privacy verstoord worden door debatten over security en daaraan gerelateerde onderwerpen. Hoewel ook Johnson zich zorgen maakt en het relevante onderwerpen vindt, heeft zij zich er inmiddels bij neergelegd dat bedrijven en overheden nu eenmaal zoveel mogelijk over hun klanten en burgers willen weten. Dat is zeer moeilijk om te veranderen en daarom heeft zij het liever over de regels van het spel. Hoe mogen informatiestromen lopen? Zij richt haar blik daarbij op de digitale surveillance: het proces van het opslaan van informatie van personen, door partijen en het handelen van deze partijen.

Panopticum

Om te begrijpen hoe surveillance werkt noemt ze als voorbeeld het panopticum. Dit is een architectonisch principe dat het mogelijk maakt groepen te controleren, disciplineren, bewaken, bestuderen, vergelijken en te verbeteren. Het bestaat uit een toren met eromheen ringen van cellen. Die cellen hebben twee ramen: één naar buiten en één naar de toren toe. Eén opzichter in de toren volstaat om alle bewoners te bewaken, te kennen en te beheersen. Doordat er vanuit de centrale toren altijd toezicht is op de cellen, ervaren de mensen in die cellen ook toezicht wanneer er niemand in de toren is. Mensen weten dat ze in de gaten worden gehouden, en gaan daardoor gewenst verdrag vertonen. Als je echter altijd in de gaten gehouden wordt, dan blijkt uit onderzoek dat je het gedrag en de waarden van de partij die jou in de gaten houdt overneemt.

Bij gevangenen is dat wellicht niet zo’n groot probleem, maar wanneer je je bedenkt dat wij allemaal onder constante digitale surveillance staan, dan wordt het toch wat onwennig. Denk aan de camera’s in winkels, bedrijven en op straat. Ons surfgedrag op internet wordt nauwgezet gevolgd. Netflix schotelt ons de films voor waarvan zij denkt dat wij ze goed vinden. Het achterliggende algoritme kennen we niet, en de films die daardoor niet worden aangeboden kennen we niet. Hetzelfde geldt voor Google, dat ons zoekresultaten voorschotelt op basis van een onbekend algoritme. Google bepaalt wat we te zien krijgen, en daarmee in zekere zin ook onze mening over bepaalde onderwerpen. 

Johnson betoogt dat we in een cryptoptica leven. We lijken in het boek ‘Der Process’ van Kafka terecht gekomen: allerlei organisaties hebben gegevens over ons, maken profielen van ons en ‘klagen ons daarmee aan’ zonder dat we weten wat de redenering achter de aanklacht is. Belangrijke mechanismen en algoritmes zijn voor ons verborgen, we kunnen de surveillanten niet zien, en kunnen hen ook niet ter verantwoording roepen. Er is geen transparantie, wij weten niet wat er gebeurt en welke bronnen zijn geraadpleegd en/of gekoppeld. 

Zichzelf vervullende profetie

Het toepassen van big data kan ons enorm veel brengen, de voordelen zijn overduidelijk. De belofte van big data heeft echter ook in zich dat het een zichzelf vervullende profetie wordt. Wie houdt zowel de partijen in de gaten die de bronnen koppelen als de partijen die de algoritmes bedenken? De digitale surveillanten moeten aansprakelijk gesteld kunnen worden. De regels van het spel moeten duidelijk worden: wat kan wel en wat kan niet? Hoe mag informatie stromen en hoe niet?

Dit zijn belangrijke vragen, die door de maatschappij als geheel beantwoord moeten worden. De Europese Commissie heeft een aanzet gedaan om antwoorden te formuleren, zie daarvoor ook onze bijdrage ‘Controle op je persoonsgegevens door aangescherpte regelgeving vanuit de EU?’. Binnen Guardian360 zorgen we er in ieder geval voor dat we onze (potentiële) klanten en partners steeds informeren over wat we van ze weten en waarom. Op onze website is daarom veel aandacht voor ons privacy- en cookiebeleid. Ook zijn we transparant over hoe we omgaan met persoonsgegevens en behandelen we data over kwetsbaarheden bij klanten hoogst vertrouwelijk. Daarnaast verwijderen wij gegevens uit onze systemen wanneer daarom gevraagd wordt.

 Wilt u meer weten over dit onderwerp, neem dan contact met ons op.