Gepraat met een journalist van Ligthhouse Reports. Zij was helemaal vanuit Los Angeles naar Amsterdam gekomen om onderzoek te doen naar de 'slimme chec' die de gemeente Amsterdam wilde invoeren bij potentiele bijstandsgerechtigden die een uitkering aanvragen. Zij werkt samen met een journalist van Trouw om enkele artikelen te schrijven, die over ongeveer twee maanden gepubliceerd gaan worden. Een Engelstalig artikel zal verschijnen op de website technologyreview . De 'slimme checq' was een algoritme, dat toegepast werd, waarbij 15 kenmerken van een aanvrager in de computer ingevoerd werden, en het algoritme moest dan bepalen, of er een vergoot risico is op fraude en dan moet een uitgebreider onderzoek in die gevallen plaatsvinden. De gemeente Amsterdam heeft besloten, die 'slimme checq voorlopig niet in te voeren, omdat er teveel fouten in het systeem zitten. Lighthouse reports is geïnteresseerd in de 'slimme checq' omdat ze aan het onderzoeken zijn of die algoritmen sowieso wel geschikt zijn om in te voeren in het bovenstaande. Is er eigenlijk wel een systeem mogelijk waarin geen fouten zitten? Daarvoor hebben ze ook het algoritme onderzocht dat in Rotterdam functioneerde, en dat naar zeggen van de journaliste nog veel slechter was dan het Amsterdamse.
vragen
De journaliste stelde ons een uur lang vragen. Wij hebben uitgelegd, hoe de Bijstandsbond werkt, hoe het sociale zekerheidssysteem in Nederland in elkaar zit en welke problemen wij op het spreekuur tegenkomen. Wat betreft de invoering van ICT (Informatie en Communicatie Technologie) brachten wij naar voren, dat wij p het spreekuur vaak worden geconfronteerd met mensen die niet digitaal vaardig zijn en die bijvoorbeeld geen online formulier kunnen invullen. Dat zijn er in Amsterdam naar onze schatting duizenden in de bijstand. Daar komt nog bij, dat velen analfabeet of laaggeletterd zijn. Die mensen kunnen er al helemaal niet mee omgaan. Velen van hen zitten in de bijstand. De overheid, maar ook grote bedrijven waarvan je afhankelijk bent, zoals de ziektekosten verzekeringen en de banken en de energiemaatschappijen voeren een beleid, waarbij je onder druk gezet wordt alles digitaal af te handelen en waarbij mensen die dat niet kunnen worden geconfronteerd met lange wachttijden aan de telefoon, of soms is men telefonisch helemaal niet bereikbaar, terwijl de instantie moeilijk doet over het verstrekken van fysieke formulieren. De leefwereld van bijstandsgerechtigden, arbeidsongeschikten en baanlozen kwam ook meer algemeen ter sprake.
Wat vinden wij van het algoritme?
Zij vroeg ons ook wat wij van het algoritme vonden. Daarop hebben wij het volgende geantwoord. Wij zijn tegen de invoering van algoritmen. Ten eerste is de invoering overbodig, want de sociale recherche en de handhavers krijgen vele tips binnen, vooral van naaste familie en naaste buren, zoals een sociaal rechercheur mij zei, en vele van die tips worden terzijde gelegd omdat men geen tijd en mankracht heeft om het allemaal te onderzoeken. Bovendien zijn vele van die tips loos alarm, en er gaat veel tijd inzitten dat allemaal te constateren uiteindelijk. Maar de sociale diensten zijn goed op de hoogte van fraude. Je hoeft dan niet ook nog eens en algoritme in te voeren om de controle nog scherper te maken. In de tweede plaats zijn algoritmen vaak discriminerend en leveren ze hits op van mensen die als verdacht worden geregistreerd, terwijl er niets aan de hand is. Je krijgt dan een Big Brother is watching you systeem, waarin ze alles van je weten. Door de vele ingewikkelde regels die voor minima in het algemeen en bijstandsgerechtigde in het bijzonder gelden, maakt iedereen wel eens een foutje, een vraag verkeerd geantwoord op de vaak ingewikkelde formulieren of zo, en dan wordt je door die algoritmen meteen aan de schandaal genageld.
Sociale ongelijkheid
In dit verband brachten wij het Inlichtingen Bureau naar voren, die door koppeling van databanken alles van je weten. In de derde plaats bevorderen algoritmen sociale ongelijkheid. Mensen aan de 'onderkant' van de samenleving, die afhankelijk zijn van de instanties, worden streng gecontroleerd terwijl de 'bovenlaag' van rijke mensen niet wordt gecontroleerd, of als ze tegen de lamp lopen, een dure advocaat kunnen inhuren om eronder uit te komen. En soms is verrijking helemaal niet illegaal officieel, bijvoorbeeld bij speculatie, terwijl het in mijn ogen toch diefstal is. Wij brachten bij al die ICT systemen het toekomstige schrikbeeld naar voren, dat je door invoering van AI systemen straks als je om hulp vraagt geconfronteerd wordt met een robot, die de aanvraag afhandelt. Nu al worden robots gebruikt in telefoonsystemen, waarbij je als je belt een robot aan de telefoon krijgt, waaraan je het probleem en de daaraan gekoppelde vragen moet uitleggen en die dan antwoord geeft en je soms niet doorverbindt, of de robot heeft het verkeerd begrepen en je wordt met de verkeerde afdeling verbonden. Als je een beetje moeite hebt je probleem en vraag in steekwoorden te formuleren, wordt je door zo’n robot het bos ingestuurd of hij zegt”ik begrijp u niet”. De gemeente Amsterdam bijvoorbeeld heeft zo'n systeem. Wij zijn benieuwd wat de journaliste van Lighthouse Reports en het dagblad Trouw met de interviews gaan doen.
Piet van der Lende
Geen opmerkingen:
Een reactie posten