Meldplicht voor gebruik algoritmes door overheden stap in de goede richting

Er moet een meldplicht komen voor het gebruik van algoritmes door de overheid. Dat wil een ruime meerderheid van de Tweede Kamer.

“Een meldplicht moet ervoor zorgen dat niet elke gemeente voor een bepaald onderwerp, bijvoorbeeld over de huurtoeslag of de opsporing van belastingfraude, zelf een algoritme gaat optuigen”, aldus D66-Kamerlid Kees Verhoeven in een reactie tegen NU.nl. Verhoeven diende samen met Harry van der Molen van mede-regeringspartij CDA een motie in, waarin het kabinet wordt gevraagd werk te maken van toezicht op algoritme-gebruik door de overheid. Alleen VVD en FvD stemden tegen het voorstel.

Directe aanleiding voor de roep om meer controle op algoritmes is onderzoek van de NOS eerder dit jaar, waaruit bleek dat de overheid al op grote schaal voorspellende systemen gebruikt en dat het risico op discriminatie daarbij aanzienlijk is. Diverse deskundigen en ook de Raad van State (RvS) waarschuwden al eens dat algoritmes burgers soms ten onrechte in een bepaalde categorie ‘stoppen’.

In een ongevraagd advies schrijft de RvS vorig jaar: “Algoritmen [..] zijn bedoeld om van toepassing te zijn in situaties met geprogrammeerde kenmerken; zij negeren alle verdere omstandigheden. Algoritmen kunnen geen rekening houden met impliciete kennis, met de noodzaak om de regel te interpreteren en met de noodzaak om alle omstandigheden van het geval mee te wegen. Zij worden geacht uitputtend te zijn. In de uitvoeringspraktijk is dat lang niet altijd mogelijk en verantwoord.”

Transparantie

Open State Foundation is blij met de aandacht voor het onderwerp en juicht de komst van een onafhankelijke toezichthouder op algoritme-gebruik door overheden toe. Tegelijkertijd signaleren we dat, ondanks het al veelvuldige gebruik van beslissende en voorspellende algoritmes door de overheid, het gesprek over de ethische kaders ervan nog onvoldoende is gevoerd. En drukken we de Kamer op het hart vooral ook toe te zien op ruimhartige transparantie van beleidsmatige keuzes, gebruikte data, codes en documentatie van algoritmes.

In de woorden van Kamerlid Verhoeven: “We moeten voorkomen dat we over tien jaar hier in de Tweede Kamer verbaasd staan te doen dat er door algoritmes mensen zijn benadeeld en er onterechte besluiten zijn genomen zonder dat we het wisten.”


Open State Foundation en algoritmes

  • Op woensdag 25 september organiseren we in ons kantoor op het Marineterrein in Amsterdam een meet-up over algoritmes. Centrale vraag: wat is verantwoord algoritme-gebruik door de overheid, en wat is er nodig om dat te bereiken? Annemarie Balvert van de Tilburg University zal een presentatie geven over haar onderzoek naar communicatie van publieke data door de overheid waaronder communicatie over algoritmen en hoe er vanuit de regulering tegenaan wordt gekeken. Meepraten? Dan ben je meer dan welkom om 17.00 uur. (Laat even weten dat je komt via nora@openstate.eu). We zorgen voor pizza en een biertje en stoppen uiterlijk om 18.30.
  • Begin november organiseert Open State een dag vol gespreksrondes met experts uit verschillende hoeken over dezelfde vraag: hoe zorgen we voor een verantwoord algoritme-gebruik door de overheid. Meer informatie hierover volgt, en de bevindingen worden eind dit jaar gepubliceerd.
  • Oproep: We zoeken overheidsinstellingen die al gebruik maken van algoritmes en/of kunstmatige intelligentie en de gebruikte technieken met ons willen delen. Zo kunnen we samen werken aan ethische en technische kaders voor verantwoord algoritme-gebruik. Mail voor meer informatie of overleg even met Wilma Haan: wilma@openstate.eu.

Ons werk steunen?

Open State Foundation draagt op veel manieren bij aan een open overheid, en een gelijke toegang tot overheidsinformatie voor iedereen. Door data te onstluiten, toepassingen te maken, te adviseren, op te leiden en het stimuleren van hergebruik van overheidsdata dragen we bij aan een vitale democratie. Wil je ons helpen bij deze missie? Heel graag. We kunnen een eenmalige of periodieke donatie enorm goed gebruiken. (NB. Open State Foundation heeft de ANBI-status waardoor donateurs hun gift mogen aftrekken van de inkomsten- of vennootschapsbelasting.)

envelope

Op de hoogte blijven?