*Vind je het belangrijk wat wij doen? gooi dan een euro (of ander bedrag) in de fooienpot! Alleen met jouw steun kunnen we blijven doen wat we doen!

Minister Dekker (VVD) voor Rechtsbescherming gaat geen openheid geven over het doorlichten van burgers in de sociale zekerheid. Dat zei hij op 30 mei in debat met de Tweede Kamer. De Kamer is bezorgd dat de gebruikte algoritmen bepaalde groepen eerder als mogelijk fraudeur bestempelen.

Zowel GroenLinks als D66 vroegen om meer transparantie over de algoritmen die in het SyRI-systeem worden gebruikt. Met het SyRI-systeem worden groepen burgers doorgelicht over het gebruik van uitkeringen en toeslagen. Algoritmen selecteren automatisch mensen uit die mogelijk fraude plegen waarna opspporingsambtenaren die mensen nader onder de loep nemen. Hiervoor wordt een enorm scala aan gegevens over mensen samengevoegd.

Vooroordelen

Volgens GroenLinks en D66 zijn de algoritmen en de criteria die daarbij gebruikt worden niet objectief. De algoritmen zijn immers door mensen bedacht en geprogrammeerd. De (onbewuste) vooroordelen en vooringenomenheid van die mensen komen ook in de algoritmen terecht wat tot discriminatie leidt. Bepaalde groepen zullen door het algoritme eerder worden uitgeselecteerd dan anderen.

De partijen vinden dat er daarom meer transparantie over de gebruikte algoritmen en gehanteerde criteria moet komen. Ook de VVD en de SP maken zich zorgen over de automatische oordelen van algoritmen. Naast SyRI werden ook zorgen geuit over het e-court systeem en de algoritmen die Facebook hanteert.

Geen openheid

Minister Dekker vindt het in principe goed dat er meer openheid komt als mensen op basis van groepskenmerken automatisch worden beoordeeld. Maar dat is volgens hem niet in alle gevallen ‘handig’ omdat dat teveel inzicht in de opsporingsmethodiek zou geven. “Er zijn situaties waarbij het juist niet handig is om transparant over algoritmen te zijn. Dat mag ook volgens de AVG. Wat ons betreft is dat bij SyRI het geval.”

Volgens artikel 22 van de nieuwe Algemene Verordening Gegevensbescherming is het verboden om automatisch beslissingen met grote impact over mensen te nemen. Daarop zijn uitzonderingen mogelijk zolang de rechten van mensen op een andere manier goed zijn gewaarborgd. De minister vindt dat dat bij SyRI het geval is. “Als mensen het er niet mee eens zijn, staat de gang naar de rechter altijd open.”

De moeilijkheid hierbij is wel dat mensen in veel gevallen niet geïnformeerd worden dat ze door het SyRI-systeem als mogelijke fraudeur bestempeld zijn.

Expertgroep

Tijdens het debat werd met regelmaat naar New York verwezen, waar sinds kort een expertgroep is ingesteld die de eerlijkheid van algoritmen gaat beoordelen. Daarbij wordt onder andere gekeken naar de volgende punten.

  • Hoe kunnen mensen weten dat zij onderwerp zijn van een geautomatiseerde beoordeling en zouden ze daarover actief geïnformeerd moeten worden?
  • Komen bepaalde groepen, zoals minderheden, immigranten of ouderen, disproportioneel vaak naar boven drijven uit de automatische beoordeling.
  • Hoe is het beoordelingsproces vormgegeven en in de gemeentelijke organisatie ingebed.
  • Hoe worden de ervaringen met het systeem vastgelegd en gebruikt ter verbetering van het systeem?

De minister voelt er weinig voor om een dergelijke expertgroep voor het SyRI-systeem in te stellen. Wat hem betreft is een gang naar de rechter voldoende waarborg voor een eerlijk en betrouwbaar proces.

Motie

D66 vindt dit onvoldoende waarborg en kondigde een motie aan om toch meer transparantie over het algoritme af te dwingen. “Algoritmen moeten wat ons betreft technisch en democratisch controleerbaar zijn. Er moet meer transparantie komen over de gebruikte algoritme-regels en criteria”.Naar verwachting wordt de motie in de komende weken in de Tweede Kamer ingediend.

Ook burgerrechtenorganisaties, waaronder het Nederlands Juristencomité voor de Mensenrechten (NJCM) en Stichting Privacy First, maken zich zorgen over het geheime algoritme dat “voorspelt of mensen een risico vormen om één van de vele wetten die het systeem beslaat te overtreden”. De organisaties hebben daarom de staat onlangs voor het SyRI-systeem voor de rechter gedaagd.

Bron

Share.
Mijn oprecht gemeende excuses, dat ik u op deze brute wijze moet lastig vallen, het zijn barre tijden.

Waar de reguliere media zich gesteund weet door subsidies en advertentie inkomsten op hun websites en de wind in de zeilen heeft op de Big Tech social media en daardoor maximaal bereik, Hebben wij die mogelijkheden niet, maar alle kosten die het met zich meebrengt en zelfs meer hebben wij wel! Wij zijn daarvoor volkomen afhankelijk van de donaties van onze lezers,  wat in tijden van explosief stijgende kosten steeds moeilijker wordt, terwijl dat niet zo hoeft te zijn!

Onze websites krijgen dagelijks meer dan 200.000 bezoeken te verwerken dankzij onze lezers die onze artikelen liken en delen waar ze maar kunnen. Dat zijn miljoenen bezoekjes aan onze websites elke maand weer. Als al die bezoekers eenmalig een euro zouden doneren, waren we voorgoed klaar en konden alle pop ups en verwijzingen naar donaties van de sites af.

Helaas doneert minder dan 1% van deze bezoekers en daarom zijn zaken als deze pop up helaas noodzakelijk om dit onder uw aandacht te brengen. Alle beetjes helpen, we zijn dankbaar voor iedere eurocent en we kunnen op alle voorkomende manieren donaties accepteren om het voor u zo gemakkelijk mogelijk te maken.

Dus als u het enigszins kan missen:

Steun ons dan in de strijd tegen
censuur en cover-ups!

KLIK HIER OM TE DONEREN

 

Sluit Venster