'Algoritmes zijn simpelweg menselijke overtuigingen'

24 januari 2018

'Algoritmes zijn simpelweg menselijke overtuigingen'

Door John Min

Je parkeervergunning, de belasting van je hond of je waterverbruik? Met het Systeem Risico Indicatie (SyRI) profileert de overheid, terwijl u dit leest, op basis van talloze persoonsgegevens tienduizenden onverdachte Nederlanders. Maxim Februari (filosoof, jurist, schrijver en columnist) maakt zich zorgen. Want het gaat allang niet meer om uitsluitend inbreuk op je privacy. “Algoritmes zitten vol politieke, morele en ideologische inhoud.“                                        

Door SyRI staan er nu misschien wel allerlei verontrustende vinkjes achter jouw naam, zonder dat je  weet waarom. De overheid claimt van alles over ons te weten, en vooral; wat voor risico wij zijn. Wat zijn de gevolgen daarvan voor de vrijheid van burgers in een rechtsstaat? Wat weet de overheid van ons, wat doet ze ermee? En hoe staat het met democratische controle? Deze vragen stonden centraal tijdens een debat bij de start van de campagne Bij Voorbaat Verdacht in De Nieuwe Liefde op vrijdag 19 januari.

Daar werd ook de rechtszaak tegen de staat toegelicht die een brede coalitie van organisaties, waaronder het mede door het Humanistisch Verbond opgerichte Platform Bescherming Burgerrechten, is begonnen tegen de overheid. Maxim Februari is samen met schrijver Tommy Wieringa mede-eiser in deze rechtszaak.

U gebruikte vrijdag een metafoor. De overheid kijkt naar ons door het spiegelglas van een verhoorkamer en vraagt ons het hemd van het lijf. De burger  moeten transparant zijn, de overheid achter glas niet? Boezemt dit angst in?
“Angst moet je niet snel hebben. Zorg wel. Mijn zorg is dat juridische waarborgen verdwijnen als de overheid haar doen en laten geheimhoudt. Als je niet weet dat gegevens over je verzameld worden, waar ze vandaan komen en hoe beslissingen erop worden gebaseerd. En je kunt geen bezwaar maken. Niet tegen de juistheid van de gegevens en niet tegen de conclusies. Voor een eerlijk proces moet je gegevens kunnen traceren.”

De overheid is vooral onvolwassen en naïef...
“Ja, ze zet zo’n systeem niet op uit kwaadwillendheid. Maar ze heeft er ook niet diep over nagedacht. Dat blijkt wel: niemand kan een goed overzicht vinden van de partijen met wie al die gegevens worden gedeeld. Ook de overheid moet zich snel gaan realiseren dat zulke systemen vrij onbeheersbaar zijn. Dat blijkt uit verschillende incidenten die zich al hebben voorgedaan. Je moet op zijn minst vooraf goed moet nadenken over waarborgen en rechtsbescherming. Dat is hier niet gebeurd, het systeem is zomaar in werking gezet. Dat is naïef.”

Maar hoe naïef zijn dataconsumenten? 
“De staat moet nog verantwoordelijker zijn dan bedrijven in haar omgang met data.
Je abonnement op de overheid kun je niet opzeggen, je kunt je account niet beëindigen. Daarom heeft de staat een extra verplichting zulke systemen goed te doordenken. Je relatie met bedrijven kun je soms wat makkelijker stopzetten. Daarom moeten mensen als dataconsumenten ook zelf nadenken over gevolgen van het delen van je gegevens met machtige partijen.”

Maxim Februari - beeldrecht Werry CroneWaarom is techniek nooit waardenvrij?
Het gekke is dat mensen bij het woord ‘technologie’ meteen visioenen krijgen van waardenvrije, objectieve methodologie. Maar techniek wordt ontworpen en gemaakt door mensen. Die stoppen hun overtuigingen erin. Zelfs gegevens worden door mensen gemaakt. Vooral gegevens over menselijk gedrag komen uiterst subjectief tot stand. Wat geldt bijvoorbeeld als ‘gedragsincident’ in de klas bij opstellen van rapportages over schoolkinderen? Iemand moet besluiten dat het een ‘gegeven’ is, waard om te worden opgeschreven, als een kind een paracetamol slikt. Iets is pas een gegeven als je besluit dat het een gegeven is.

Voor algoritmes geldt dat nog sterker: dat zijn simpelweg menselijke overtuigingen die in formele taal zijn opgeschreven. En dus zitten algoritmes vol politieke, morele, ideologische inhoud. “

U heeft wel eens gezegd: “vergeet de privacy, het gevaar is breder…”
“Veel mensen hechten weinig waarde aan hun privacy. Als je het gesprek tot privacy beperkt, blijft het dus een marginaal onderwerp. Maar als je laat zien dat de nieuwe ontwikkelingen je zeggenschap over je eigen leven omver gooien, wordt het natuurlijk wel dringender voor iedereen.”

In hoeverre is SyRI het resultaat van technocratisch denken?
Ik denk dat de overheid ervan overtuigd is dat SyRI tot superieur resultaat leidt. Maar profilering is niet onfeilbaar. Ten eerste heeft technologie de neiging vooroordelen te versterken. Zowel een ‘positieve’ als een ‘negatieve’ beoordeling. Je kijkt niet naar de gegevens over mensen die je eerder niet zijn opgevallen, daarom vallen ze je nog minder op, waardoor je helemaal niet meer naar ze kijkt, zodat ze je nooit meer zullen opvallen. Er zitten altijd gaten en kloven in gegevensverzamelingen.

Ten tweede kunnen gegevens bij elkaar opgeteld tot volstrekt onjuiste conclusies leiden. Een verschuiving van informatie naar data, van gecontextualiseerde gegevens naar de blote gegevens, is daarom niet vanzelfsprekend een gelukkige ontwikkeling. Een zin uit een grappige of plagerige mail kan buiten de context een heel andere lading krijgen dan in de samenhang van de mail zelf.“

het personage Krups, uit uw nieuwe roman Klont, waarschuwt dat de politiek, maar ook de roman teloor zullen gaan door big data en kunstmatige intelligentie.  Bent u net zo somber?                                                                                                                                                                                      
“Ik denk dat de politiek en het rechtssysteem ingrijpend zullen veranderen. Geld verdwijnt grotendeels, en dus ook het systeem van individueel sparen. De wet zal voor een deel worden vervangen door nudgen. Daarbij zal gedragsverandering door je omgeving in een bepaalde richting gestuurd worden. De politieke keuze zal worden afgezwakt doordat vaker wordt gekeken naar je ‘gebleken preferenties’, dat wil zeggen door gegevens over de voorkeuren die je hebt laten zien via je gedrag. Al deze ontwikkelingen vragen van ons dat we opnieuw bescherming van het kwetsbare individu inbouwen. Humanistische bescherming, zo je wilt.”

Daarover gepsproken. Noemt u zichzelf humanist?
“In ouderwetse zin noem ik me wel humanist, de Erasmiaanse waarden van openheid en tolerantie zijn me dierbaar, ik ben bekommerd om de beschermwaardigheid van het individu. Ik ben geen humanist in de areligieuze zin, omdat ik de ontzagwekkendheid van de kosmos voel, naast de sjofelheid van die arme mens.“

Volg de campagne met nieuws en updates over de rechtszaak tegen de staat én SiRY op bijvoorbaatverdacht.nl

Beeld bovenaan: Campagnebeeld Bij Voorbaat Verdacht