Case Transparante Algoritmen

De focus bij Blue Field Agency ligt op het analyseren en voorspellen van individueel gedrag om vervolgens daarmee accountable growth te realiseren.

Bij de gemeente Nissewaard is accountability van groot belang. Immers een gemeente wil rekenschap afleggen naar haar burgers en tegelijkertijd efficiënt omgaan met belastinggeld. Daarom is een algoritme ontwikkeld voor de ondersteuning van het opsporen van bijstandsfraude. Het grote voordeel van deze aanpak voor burger en gemeente is dat veel minder mensen worden gestoord (slechts 2 %) om gegevens te overleggen. De dienstverlening is hiermee fors verbeterd, omdat inwoners bijvoorbeeld niet meer jaarlijks met bankafschriften en andere bewijzen naar het stadhuis hoeven om aan te tonen dat zij recht hebben op een bijstandsuitkering

.

Uitlegbaar en controleerbaar

Onze visie is dat voorspelmodellen, willen ze maatschappelijk geaccepteerd worden, moeten voldoen aan de eisen van transparantie, controleerbaarheid en maatschappelijk aanvaardbaarheid. In andere woorden , algortimen zijn prima te gebruiken ook in maatschappelijk gevoelige omgevingen zoals bijstandsfraude, mits ze uitlegbaar en controleerbaar zijn. Er worden geen persoonsgegevens gebruikt, daar deze niet voor dit doel zijn verzameld en snel een bias kunnen veroorzaken. Verder is het voorspelmodel slechts een hulpmiddel. De gemeente gaat 10 cases die het voorspelmodel aangeeft, zelf beoordelen. Daarnaast kunnen bewoners opvragen hoe het systeem met hun data is omgegaan en welke conclusies zijn getrokken. Het algortime voldoet aan alle wet-en regelgeving (AVG, EU directives for algorithms, Richtlijnen Transparency Lab Buitenlandse Zaken, Richtlijnen Justitie). Recentelijk is TNO opdracht gegeven om ons model te verifieren op wet-en regelgeving, mogelijke aanwezige Bias en transparantie. https://www.nissewaard.nl/nieuws-1/tno-doet-onderzoek-naar-gebruik-van-algoritme-totta-data-lab.htm

Paradigma wantrouwen of vertrouwen

In ons model gaan wij uit van het vertrouwen in de mens in plaats van het wantrouwen. Eigenlijk is er sprake van een paradigma. Algoritmen kunnen namelijk ook goed ingezet worden voor het snel vaststellen wie er potentieel in de bijstand komt, wie er naast de bijstand andere hulpverlening nodig heeft en welke hulpverlening van toepassing kan zijn zonder dat de burger hier zelf aan gedacht heeft. Het leren omgaan met dit soort voorspelmodellen biedt veel kansen. 

MEER INFORMATIE

JESSE LUK, j.luk@bluefieldagency.com

ERIK KLEIN NAGELVOORT, erik@bluefieldagency.com

Questions? Please contact us!

Erik Klein Nagelvoort
Strategy
Jesse Luk
Business Development