Mensen scannen op grond van algoritmen

Tech-redacteur Joost Schellevis van het NOS Journaal beschrijft hoe bijstandsontvangers in Spijkenisse via ‘slimme algoritmen’ op mogelijke fraude worden gescand. Wethouder Igor Bal (VVD) ontkent dat er daarbij sprake is van etnisch profileren.

Klinkt sjiek: ‘algoritme’. Zeker als ze ook nog eens ‘slim’ worden genoemd. Maar echt slim zijn algoritmen niet; slim is degene die ze bedenkt. Een algoritme is niet meer dan wat gegevens – data – bij elkaar gevoegd om iets aan te tonen. Denk aan het recept voor een maaltijd. Algoritmen worden steeds vaker ingezet om beslissingen te automatiseren, door commerciële bedrijven (klantgegevens) en ook door overheden.

NOS-redacteur Schellevis citeert een bijstandsgerechtigde uit de Zuid-Hollandse gemeente Nissewaard, waar Spijkenisse onder valt: ‘Ik weet niet waar de gemeente precies op zoekt, maar ik denk dat ik word geprofileerd op mijn buitenlandse afkomst.’ Enig bewijs voert de NOS niet aan, behalve de vaststelling dat de Nissewaarder sociale dienst slimme algoritmen gebruikt om bijstandsfraudeurs op te sporen. Alle 2.300 bijstandsontvangers zouden hieraan zijn onderworpen.

Nissewaard scant met techniek van het Amsterdamse data-bedrijf Totta. Dat beschrijft zijn deskundigheid als volgt: ‘Met Totta data lab ontwikkelen we modellen die gedrag kunnen voorspellen van de klanten van onze klant. (…) De zelflerende algoritmen die hierin centraal staan worden steeds slimmer in het voorspellen van gedrag.’ Dit zogeheten machine learning wordt toegepast bij onder meer forensisch onderzoek.

Dat de Zuid-Hollandse gemeente onder de rook van Rotterdam bijstandsfraude opspoort, is niet vreemd. Dat is de gemeente wettelijk verplicht. Volgens verantwoordelijk VVD-wethouder Igor Bal is daarbij absoluut geen sprake van etnisch profileren, oftewel het meewegen van gegevens als nationaliteit en afkomst. Dat gebeurde wel bij de Toeslagenaffaire. Overigens maken sociale rechercheurs van Nissewaard ook nog dankbaar gebruik van babbelgrage buren, al dan niet jaloers op ‘die luie buitenlander van hiernaast’.

Het opsporen van bijstandsfraude gaat niet over één nacht ijs. Tegen de NOS zegt Bal: ‘We kijken daarvoor naar zaken als leeftijd, aantal kinderen en of iemand in het verleden fraude heeft gepleegd.’ Ook wordt gelet op data als hoe vaak iemand op vakantie gaat, actief is in participatietrajecten en voertuigen op zijn adres heeft staan. Al deze data leveren een algoritme op, in dit geval een risicoscore als het gaat om bijstandsfraude.

Volgens de wethouder Werk en Inkomen hebben algoritmen voor inwoners ook veel voordelen. Tot het Totta-algoritme werd ingevoerd, moesten meer bijstandsgerechtigden vaker worden gecontroleerd. Igor Bal tegen het NOS Journaal: ‘Als iemand geen fraudeur is, geven we dat ook mee aan het algoritme.’

LAAT EEN REACTIE ACHTER

Please enter your comment!
Please enter your name here