Argos
HUMANVPRO

In het vizier van het algoritme

  1. Podcastschevron right
  2. Argoschevron right
  3. In het vizier van het algoritme

za 18 december 2021

De overheid gebruikt algoritmes om te voorspellen of iemand misschien fraudeert. Dat dit mis kan gaan weten we inmiddels van de Toeslagenaffaire: er bleek sprake van discriminatie van mensen met een tweede nationaliteit en vooral mensen met lage inkomens werden op de korrel genomen.


Maar ondanks dit schandaal is er niet veel bekend

over dit soort systemen. De overheid wil burgers meestal niet wijzer maken,

omdat ze anders controles zouden kunnen ontlopen door hun gedrag aan te passen.


Maar in Rotterdam is de gemeente er wél open over.

Er is inmiddels flinke, democratische discussie over een algoritme om

bijstandsfraude op te sporen. 


Argos neemt in deze uitzending dit Rotterdamse

systeem ook onder de loep, en diende met onderzoekscollectief Lighthouse

Reports een Wob-verzoek in. Kenmerken als leeftijd, geslacht, woonwijk, taal en

zelfs aanwijzingen voor psychische, medische en financiële problemen blijken

een voorspellende waarde te hebben.