{"id":9344,"date":"2019-11-28T13:22:11","date_gmt":"2019-11-28T12:22:11","guid":{"rendered":"https:\/\/openstate.eu\/nl\/?page_id=9344"},"modified":"2023-04-20T17:55:41","modified_gmt":"2023-04-20T15:55:41","slug":"nederlands-open-algoritme","status":"publish","type":"page","link":"https:\/\/openstate.eu\/nl\/projecten-tools-data\/resultaten\/open-algoritme\/","title":{"rendered":"Open Algoritme"},"content":{"rendered":"

<\/p>\n

Open over geautomatiseerde besluitvorming<\/h2>\n

Onze overheid maakt in toenemende mate gebruik van algoritmes. Zo handelt de Belastingdienst het grootste deel van de aangiftes en toeslagaanvragen af door middel van automatische besluitvorming, DUO regelt de studiefinanciering via algoritmes en gemeentes gebruiken algoritmes voor het sturen van de WOZ-aanslag of bij vergunningsaanvragen.<\/strong><\/p>\n

Algoritmes – een set aan beslisregels – zijn de kern van een geautomatiseerd besluitproces. Het gebruik ervan kent voor- en nadelen. Automatische besluitvorming kan bijdragen aan effici\u00ebntie, lagere kosten, rechtszekerheid, minder fouten, bruikbare data en analyses, en schaalbaarheid.<\/p>\n

Maar er zijn ook keerzijdes. Er ligt namelijk een gevaar van dehumanisering op de loer door een\u00a0 gebrek aan maatwerk voor uitzonderlijke gevallen (‘het systeem staat het niet toe dat..’). En keuzes van de programmeur bij het schrijven van het algoritme kunnen vergaande, onbedoelde, gevolgen hebben.<\/p>\n

Daarom is het van het grootste belang dat er duidelijk kaders komen voor verantwoord gebruik van algoritmes en kunstmatige intelligentie door de overheid. En dat beslismodellen transparant en uitlegbaar worden gemaakt, zodat te zijn te allen tijde controleerbaar zijn voor de samenleving.<\/p>\n

Maatschappelijke discussie<\/strong>
\nIn het maatschappelijk debat is er in toenemende mate aandacht voor over de digitaliseringsstrategie van de overheid, inclusief het gebruik en de gevolgen van algoritmes. In de Tweede Kamer komt het onderwerp steeds hoger op de agenda. En de Raad van State publiceerde in 2018 een belangrijk ongevraagd advies<\/a> over de effecten van de digitalisering voor de rechtsstatelijke verhoudingen. En ook journalisten verdiepen zich in het onderwerp, getuige bijvoorbeeld dit artikel van de NOS<\/a> over de grote hoeveelheid algoritmes die in gebruik zijn bij de overheid.<\/p>\n

Dit zijn goede ontwikkelingen: geautomatiseerde besluitvorming biedt ons kansen, maar we moeten beter over ethische kaders, uitlegbaarheid en transparantie hebben nagedacht voordat we als samenleving definitief inzetten op geautomatiseerde besluitvorming.<\/p>\n

Richting geven<\/strong>
\nOpen State Foundation wil mede richting geven aan deze maatschappelijke discussie, waarbij we ons, zoals je van ons mag verwachten, inzetten voor transparantie van algoritmes. Algoritmes moeten open worden gemaakt, worden bekeken en kunnen worden bekritiseerd. Net als wetgeving, net als beleid, net als regelgeving en net als financi\u00ebn. Op die manier kunnen we de uitzondering (en wie is dat niet?) beschermen tegen de nadelen van geautomatiseerde besluitvorming.<\/p>\n

Vijf voorstellen<\/strong>
\nDaarom: hieronder vijf voorstellen om transparantie in geautomatiseerde besluitvorming te brengen. Heb je opmerkingen, of wil je meedenken over het onderwerp? Neem dan vooral contact op<\/a>.<\/p>\n

\n

\"\"<\/p>\n

1. Algoritmeconsultatie<\/strong>
\nEen voorstel tot geautomatiseerde besluitvorming, het gebruik van een algoritme, wordt publiek geconsulteerd via https:\/\/internetconsultatie.nl. De samenleving kan vroegtijdig meepraten over de noodzaak, uitvoering en doel van het gebruik van het algoritme. Dit leidt tot meer transparantie in het besluitvormingsproces en kwaliteit van de besluitvorming.<\/p>\n<\/div>\n

 <\/p>\n

\n

\"\"<\/p>\n

2. Review voor gebruik<\/strong>
\nAlgoritmes mogen alleen worden gebruikt nadat deze zijn bekeken door een daarvoor bevoegde instantie. Net als de Raad van State advies moet geven over wetten, moet er een instantie komen die over een algoritme kan adviseren over de impact en andere risico’s. Die instantie moet gevraagd en ongevraagd kunnen adviseren over de implementatie, doelmatigheid, rechtmatigheid en de integriteit van het algoritme bewaren.<\/p>\n<\/div>\n

 <\/p>\n

\n

\"\"<\/p>\n

3. Fail-safe voor maatwerk<\/strong>
\nBurgers moeten een fail-safe \u2018knop\u2019 kunnen indrukken waardoor hun casus uit het algoritme wordt gehaald en door een mens wordt bekeken. Zo houden we rekening met unieke gevallen en houden burgers altijd controle over de manier waarop ze worden behandeld door hun overheid.<\/p>\n<\/div>\n

 <\/p>\n

\n

\"\"<\/p>\n

4. Publicatie van algoritmes<\/strong>
\nDe overheid moet de uiteindelijke broncode, informatie- en gegevensmodellen, en documentatie van algoritmes publiceren, net als wet en regelgeving, v\u00f3\u00f3rdat deze in gebruik worden genomen gepubliceerd. Alleen dan weten wij waar we aan toe zijn, en kan de samenleving het algoritme controleren.<\/p>\n<\/div>\n

 <\/p>\n

\n

\"\"<\/p>\n

5. Publiek register voor algoritmes<\/strong>
\nHet gebruik van persoonsgegevens moeten worden gedocumenteerd. Waarom algoritmes niet? Bij elk proces dat wordt ondersteund of geleid door een algoritme, moet worden gedocumenteerd welke gegevens worden gebruikt, welke uitkomst het heeft, hoe het algoritme werkt, waarvoor het wordt gebruikt en door wie het is gemaakt. Dit moet in een publiek register worden opgenomen.<\/p>\n<\/div>\n

<\/p>","protected":false},"excerpt":{"rendered":"

Open over geautomatiseerde besluitvorming Onze overheid maakt in toenemende mate gebruik van algoritmes. Zo handelt de Belastingdienst het grootste deel van de aangiftes en toeslagaanvragen af … Lees meer<\/a><\/p>\n","protected":false},"author":44,"featured_media":10221,"parent":9120,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"views\/project-page.blade.php","meta":{"footnotes":""},"categories":[539],"tags":[],"class_list":["post-9344","page","type-page","status-publish","has-post-thumbnail","hentry","category-open-algoritme"],"acf":[],"_links":{"self":[{"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/pages\/9344","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/users\/44"}],"replies":[{"embeddable":true,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/comments?post=9344"}],"version-history":[{"count":15,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/pages\/9344\/revisions"}],"predecessor-version":[{"id":11686,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/pages\/9344\/revisions\/11686"}],"up":[{"embeddable":true,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/pages\/9120"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/media\/10221"}],"wp:attachment":[{"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/media?parent=9344"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/categories?post=9344"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/openstate.eu\/nl\/wp-json\/wp\/v2\/tags?post=9344"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}