AP pleit voor openheid bij overheid over algoritmes

31 mei 2019

De overheid moet transparant zijn over de inzet van voorspellende algoritmes. Ook hebben burgers het recht te weten hoe die rekenmodellen tot een conclusie komen, zeker als het gaat om beslissingen over individuele zaken als aanvragen of het toekennen van regelingen. Dat stelt voorzitter van de Autoriteit Persoonsgegevens (AP) Aleid Wolfsen.  

De voorzitter reageerde deze week op onderzoek van de NOS naar de inzet van algoritmen bij de overheid. ‘De overheid moet daar transparant over zijn, en moet helder maken op welke manier jouw gegevens worden verwerkt en hoe die besluiten tot stand komen’, aldus Wolfsen.

Wolfsen benadrukt dat de inzet van algoritmes door de overheid is toegestaan. 'Maar een belangrijke voorwaarde is dat ze alleen worden gebruikt als het eerlijk, slim en transparant gebeurt.’

Hij is bezorgd over discriminatie. ‘De vooroordelen die we allemaal hebben, kunnen in computerprogramma's terechtkomen’, zegt hij tegen de NOS. Vandaar dat hij wijst op het belang van een transparantie rondom de inzet van algoritmes door de overheid. ‘Als er een besluit over je wordt genomen en je weet niet hoe dat tot stand is gekomen, dan kun je je daar niet tegen verdedigen’, zegt Wolfsen tegen de omroepstichting.

Keurmerk

De NOS meldde eerder dat de overheid op brede schaal algoritmen inzet voor beslissingen rondom aanvragen van burgers. Dat gebeurde na een wob-verzoek (wet openbaarheid bestuur). In een overzicht delen verschillende overheidsinstanties  informatie over het gebruik van algoritmen en wat dit voor burgers betekent. Er gaan al langer stemmen op voor het duiden van de uitkomsten van algoritmen, bijvoorbeeld via een keurmerk.

Ook zijn er verschillende bedrijven die ethische raden oprichten die toezien op de inzet van ai en algoritmen om naar eigen zeggen klanten te beschermen tegen onethische beslissingen van informatiesystemen. 

Meer informatie