Wat gebeurt er als AI met AI gaat debatteren?
De opkomst van generatieve AI en Large Language Models (LLM’s) veranderde in korte tijd de manier waarop teksten worden gemaakt en verwerkt. Dat roept niet alleen vragen op over desinformatie en auteursrecht, maar ook over de invloed van AI op het publieke en politieke debat. Als overheden AI gebruiken om informatie te maken en burgers AI gebruiken om die informatie te verwerken, kan dezelfde werkelijkheid voor iedereen anders worden weergegeven.
Om beter te begrijpen wat er onder de motorkap gebeurt, bouwden we samen met AI-developers een eigen experiment. Twee taalmodellen werden gefinetuned met open data van de Tweede Kamer, waaronder debatten, brieven, moties en notities. Vervolgens lieten we de modellen met elkaar debatteren om zichtbaar te maken wat er mis kan gaan wanneer AI politieke informatie niet alleen verwerkt, maar ook zelf genereert.
De technische aanpak en documentatie van de modellen zijn openbaar gemaakt. Zo maakt Debot niet alleen de risico’s van AI bespreekbaar, maar laat het ook concreet zien hoe keuzes in data, training en ontwikkeling invloed kunnen hebben op de uitkomsten van AI.
Als AI ons debat gaat bepalen
Een belangrijke vraag uit het onderzoek is wat er gebeurt met de democratische controle wanneer steeds meer informatie door AI wordt gemaakt, geselecteerd en geïnterpreteerd. Als de overheid informatie met AI genereert en burgers die informatie vervolgens ook met AI verwerken, wordt het moeilijker om vast te stellen welke informatie aan de basis van een beslissing ligt en welke keuzes door het AI-systeem of de ontwikkelaars daarvan zijn gemaakt.
Ook het publieke debat kan hierdoor veranderen. Wanneer AI-gegenereerde teksten door andere AI-systemen worden verwerkt, bestaat het risico dat menselijke ideeën en nieuwe argumenten steeds minder een rol spelen. Het debat kan zich dan steeds meer gaan vormen naar de patronen en waarden die in de gebruikte modellen zijn ingebouwd.
Daarom is transparantie over AI meer dan inzicht in de techniek alleen. Bestuurders, ambtenaren en politici moeten kunnen begrijpen welke data en keuzes invloed hebben op AI-systemen en welke gevolgen dat kan hebben voor democratische besluitvorming. We pleiten daarom voor transparantie over de ontwikkeling en inzet van AI en voor bewustzijn van de concrete risico’s die daarbij ontstaan.
Wat hebben we bereikt?
- 2023: Twee LLM’s gefinetuned met open data van de Tweede Kamer. Deze modellen met elkaar laten debatteren om risico’s van AI in het democratische debat te onderzoeken.
- 2024 De technische aanpak en dataset openbaar beschikbaar gemaakt. Vervolgens presentaties gegeven over AI, transparantie en de gevolgen van het democratische debat.
- 2025 Op basis van het onderzoek input geleverd voor de kabinetsvisie op AI en de AI diplomatie strategie.
Van onderzoek naar verantwoord gebruik
Hoewel AI-systemen zich snel ontwikkelen, blijven de fundamentele vragen uit Debot relevant: welke informatie krijgt een model, welke keuzes worden tijdens de ontwikkeling gemaakt en wie bepaalt wat een AI-systeem wel en niet doet? Juist omdat AI steeds vaker onderdeel wordt van publieke en politieke communicatie, blijft inzicht in die keuzes belangrijk.
Open State blijft daarom kennis delen over de kansen en risico’s van generatieve AI en over de rol van transparantie daarbij. We verkennen daarnaast mogelijkheden om het onderzoek uit te breiden en opnieuw uit te voeren. Daarvoor is op dit moment nog geen financiering gevonden.
Dit project is uitgevoerd met steun van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BZK).