Rotterdam

De SP vindt dat Rotterdammers op geen enkele manier geschaad mogen worden via digitale wegen. Zo kan bijvoorbeeld de inzet van gemeentelijke algoritmes bedoeld en onbedoeld schadelijk en onderdrukkend zijn. Op initiatief van de SP moeten alle ambtelijke organisaties voortaan rekening houden met de schadelijke effecten van algoritmes. Rotterdammers moeten er namelijk op kunnen vertrouwen dat de actieve algoritmes van de gemeente hen geen schade zullen berokkenen.

Fractievoorzitter Aart van Zevenbergen zegt hierover: ‘De gemeente is geobsedeerd met data vergaring en dataregistratie in plaats van daadwerkelijk contact en empathie. De data gedreven onmenselijke maat die dan tot stand komt, is wat de SP betreft niet de menselijke maat die we willen. Techniek moet geen excuus zijn om burgers rechteloos te maken tijdens contacten met de overheid.'

In september is er in de commissie en de gemeenteraad gesproken over de inzet van gemeentelijke algoritmes. Het recente Rekenkamerrapport is namelijk kritisch op het gebruik van algoritmes door de gemeente. Algoritmes zijn niet meer dan rekenkundige formules. Deze worden gebruikt om de verwerking van gegevens te automatiseren, om zo de gemeentelijke besluitvorming zogezegd ‘efficiënter’ en ‘klantgerichter’ te maken.

In de praktijk komt het erop neer dat algoritmes gebruikt worden om fraude op te sporen, mensen te categoriseren, of beslissingen te automatiseren. Computers vereenvoudigen en interpreteren op zo’n manier dat er vooroordelen ontstaan en versterkt worden. En daardoor kunnen er onschuldige slachtoffers vallen door deze onderdrukkende algoritmes. De SP heeft vaker aan de bel getrokken over de schaduwzijde van het gebruik van algoritmes door de gemeente. De SP is van mening dat of algoritmes zijn eerlijk en sociaal, of algoritmes worden gewoon niet gebruikt!

Een voorbeeld van gemeentelijke algoritmes die slecht hebben uitgepakt voor Rotterdammers is het systeem SyRI. Het systeem werd in 2018 toegepast in de wijken Bloemhof en Hillesluis. Alle beschikbare informatie van alle inwoners werd door SyRI gecontroleerd en verwerkt. Daardoor werd bijna iedereen in de ogen van de gemeente verdacht van fraude. Gelukkig is het gebruik van SyRI stopgezet doordat de SP en de FNV samen in actie kwamen tegen deze discriminerende en oneerlijke algoritmes.

De gemeente moet er voor de burgers zijn. De SP vindt dat een gemeente zich daarom altijd eerlijk en menswaardig moet opstellen tegenover de burger. Door algoritmes komt de menselijkheid in het geding. Gegevens en aannames worden hierdoor leidend. Burgers komen zo onnodig in de knel door iets onbegrijpelijks en ontastbaars en kunnen zich maar moeilijk verweren.

De gemeente is er als de kippen bij om algoritmes op een controlerende en straffende manier te gebruiken. Met alle gevolgen van dien. Door toezicht, registratie en behandeling als gevolg van algoritmische systemen zijn vooral Rotterdammers in een kwetsbare positie direct en indirect, zichtbaar en onzichtbaar, de dupe. De burgers worden eerder gestraft in plaats van geholpen. Sowieso mogen de keuzes en resultaten die deze digitale systemen maken geen vooroordelen bevatten, discriminatoir zijn of leiden tot ongewenste beslissingen. 

De Rekenkamer concludeerde dat de gemeentelijke algoritmes variabelen, zoals laaggeletterdheid, meenemen in analyses. Daardoor zijn algoritmes via een omweg, ondanks ethische controles, vaak toch discriminerend. Daarom hebben we het voorstel ‘sociale algoritmes’ ingediend in de raad. Ze moeten de burger helpen, niet veroordelen.

Voorstanders beweren echter dat algoritmes goed zijn in het opsporen van fraude. Zij vinden dat gemeentelijke algoritmes beter en sneller schuldigen eruit kunnen plukken. Maar zo simpel is de werkelijkheid niet. Bovendien blijkt uit onderzoek dat het gebruik van deze digitale systemen duur en onoverzichtelijk is. Ook dient het vaak een (verborgen) politiek doel. Kijk maar naar de manier waarop SyRI vanaf het begin is ingezet om bijstandsfraude op te sporen in de zogenaamde ‘achterstandswijken’.

Uit het Rekenkamerrapport blijkt verder dat de gemeente Rotterdam al 4 jaar gebruik maakt van algoritmes. Maar ze weet nog steeds niet hoe deze algoritmes precies werken en welke algoritmes er allemaal gebruikt worden. De complexiteit van de toegepaste digitale techniek en de negatieve gevolgen daarvan is wat ons betreft een breekpunt. Het beleid van de gemeente moet controleerbaar, begrijpelijk en eerlijk zijn. En dat is het nu niet.

Het gebruik van algoritmes is een tekenend voorbeeld van hoe er momenteel met mensen omgegaan wordt in Rotterdam. Rotterdammers hebben geen zeggenschap meer, worden constant gecontroleerd en gewantrouwd. De gemeente heeft geen grip op de gemeentelijke algoritmes. Het gebruik ervan is ook op geen manier te rechtvaardigen. Zo is er geen sprake van een solidaire gemeente die Rotterdam wel hoort te zijn.

Natuurlijk is de SP ook een voorstander van het opsporen van fraude. Dat kan gewoon via sociale rechercheurs die hiervoor getraind zijn en gecontroleerd kunnen worden. In plaats van een strikt en een onpersoonlijke fraudeaanpak, moeten we kiezen voor een menswaardig beleid, om zo ongelijkheid en onrecht direct bij de wortel te bestrijden. En niet door middel van gekleurde algoritmes, voorspellingen en de verregaande straffende maatregelen zoals nu het geval is.

De SP vindt dat de gemeente per direct moet stoppen met blindelings algoritmes toepassen en menswaardiger met Rotterdammers om moet gaan. Het voorstel voor sociale algoritmes heeft helaas geen meerderheid gekregen. Ons voorstel voor onschadelijke algoritmes is wel aangenomen en betekent een kleine stap in de goede richting. De Rotterdamse SP fractie blijft de toepassing van gemeentelijke algoritmes kritisch volgen.