AI bij de overheid: de weg naar succes … en de weg naar de afgrond

Foto van Richard van Hooijdonk
Richard van Hooijdonk
AI belooft een gamechanger te zijn voor overheidsdiensten aan miljoenen mensen. Maar wie neemt de verantwoordelijkheid als het misgaat?

De geboorte van een kind aangeven, zorgtoeslag of een uitkering aanvragen, een paspoort verlengen … We hebben allemaal wel eens te maken met overheidsdiensten. Voor veel mensen zijn deze contacten met de overheid allesbepalend. Zonder overheidshulp kunnen ze bijvoorbeeld geen zorgverzekering betalen, hun huurwoning bekostigen, of hun kinderen voeden en kleden. Maar het op grote schaal leveren van deze diensten is een gigantische uitdaging. Overheden verwerken jaarlijks miljoenen aanvragen, nemen talloze beslissingen en moeten afstemming zien te bereiken tussen instanties die vaak met verschillende systemen werken. Die complexiteit zorgt voor inefficiëntie die alles vertraagt, en dan hebben we het nog niet eens over de bureaucratie. Uiteindelijk kan wanorde uitmonden in onrecht als mensen die al kwetsbaar zijn de dupe worden van fouten, vertragingen of afwijzingen.

En dat is de reden waarom geautomatiseerde besluitvorming en AI in trek zijn als veelbelovende oplossingen. Ze bieden de mogelijkheid om aanvragen sneller te verwerken, achterstanden weg te werken en regels consistenter toe te passen. In plaats van overbelaste casemanagers die fouten maken, kan AI de routinetaken uitvoeren en complexere zaken, waar een menselijke blik voor nodig is, eruit filteren. Maar of dit werkt, staat of valt met de manier waarop de technologie ingevoerd wordt. Zonder goed beheer, transparantie en privacybescherming kan AI de problemen die het belooft op te lossen, juist verergeren. Doe je het goed? Dan verandert dat alles. Ambtenaren krijgen tools waardoor ze verlost zijn van al het saaie, zich steeds herhalende werk. Ze kunnen zich volop storten op zaken die hun aandacht echt nodig hebben. De kosten dalen. Burgers krijgen eindelijk overheidsdiensten die soepel lopen. En, ook niet onbelangrijk: dit is de kans voor de overheid om het vertrouwen te herstellen dat door jarenlange bureaucratische rompslomp is verloren.

“AI biedt de overheid de mogelijkheid om overheidsdiensten te verbeteren en daar profiteert de belastingbetaler van.”

Gareth Davies, hoofd NAO

Vertrouwen en argwaan rond AI

Hoewel de meeste burgers nog niet overtuigd zijn van AI, zijn regeringen druk bezig met het invoeren ervan.

Steeds meer overheidsinstanties gaan over op het gebruik van AI. Een rapport uit 2024 van de Chief Information Officers Council telde meer dan 1700 manieren waarop Amerikaanse federale instanties AI gebruiken om hun taken uit te voeren en de openbare dienstverlening te verbeteren. Dat is een verdubbeling ten opzichte van een jaar eerder. Aan de andere kant van de Atlantische Oceaan, in het Verenigd Koninkrijk, zijn overheden terughoudender, of misschien wel realistischer, over de mogelijkheden van AI. Uit onderzoek van de Britse National Audit Office (NAO) blijkt dat maar een derde van de overheidsinstanties AI-systemen in gebruik heeft genomen, en dat die instanties zich doorgaans beperken tot een of twee zorgvuldig gecontroleerde toepassingen. 

Wel is bijna driekwart bezig met het testen of inplannen van AI-projecten, voor toepassingen als het analyseren van digitale beelden, het automatiseren van routinechecks in aanvraagprocessen en het opstellen of samenvatten van teksten. “AI biedt de overheid de mogelijkheid om overheidsdiensten te verbeteren en daar profiteert de belastingbetaler van”, zegt Gareth Davies, hoofd van de NAO. “Om betere resultaten waar te maken, moet de overheid ervoor zorgen dat niet alleen hardnekkige problemen worden aangepakt, zoals datakwaliteit en verouderde IT, maar dat het ook een effectief risicobeheer omvat.”

Terwijl overheden vaart zetten achter de implementatie, zijn burgers nog altijd verdeeld over de technologie. Hoogleraar Nicole Gillespie van de Universiteit van Melbourne deed eerder dit jaar, begin 2025, onderzoek naar het vertrouwen in AI. Wereldwijd werden meer dan 48.000 mensen in 47 landen ondervraagd. Van de ondervraagden bleek 66% regelmatig gebruik te maken van AI. Toch gaf maar 46% aan er ook vertrouwen in te hebben. Vier op de vijf mensen hebben de voordelen van AI ervaren of gezien, van het minder tijd kwijt zijn aan saaie taken tot betere personalisatie en toegankelijkheid. Maar tegelijkertijd maken vier op de vijf mensen zich ook zorgen over de risico’s. En twee op de vijf hebben de negatieve gevolgen al persoonlijk gevoeld. Denk aan minder menselijk contact, kwetsbaarheden in cyberbeveiliging, de verspreiding van mis- en desinformatie, én het langzaam verliezen van vaardigheden doordat mensen te veel op die automatische systemen vertrouwen.

Algoritmische succesverhalen

Van het stroomlijnen van het verkeer tot het automatiseren van patiënttriage: hoe AI overheidsdiensten verbetert.

Laten we eens kijken wat er gebeurt als overheden AI goed weten te gebruiken. De Britse overheid stond onlangs voor een monsterklus: het analyseren van meer dan 50.000 reacties naar aanleiding van een onderzoek naar de watersector. Normaal gesproken zouden ambtenaren hiervoor maandenlang verdrinken in het papierwerk. Maar dit keer werd de taak uitbesteed aan Consult, een nieuwe AI-tool uit de Humphrey-suite van de regering. Die wist alle reacties in ongeveer twee uur samen te vatten tot kernpunten. Het kostte de overheid maar 240 pond (zo’n 275 euro). De output van de AI werd daarna gecontroleerd door menselijke experts, wat nog eens 22 uur kostte; nog steeds maar een fractie van de tijd die het zou hebben gekost om de hele klus handmatig te doen.

De Britse overheid verwacht dat als AI wordt ingezet voor alle openbare raadplegingen, er jaarlijks 75.000 werkdagen vrijkomen die nu aan handmatige analyse worden besteed. Dat komt neer op een waarde van grofweg 20 miljoen pond aan ambtenaren die van het saaie papierwerk kunnen worden afgehaald en echte problemen kunnen gaan oplossen. Minister Ian Murray, die de digitale overheid in zijn takenpakket heeft: “Dit laat zien dat er een enorm potentieel is voor technologie en AI om betere en efficiëntere overheidsdiensten te leveren en de belastingbetaler waar voor zijn geld te geven. Door simpele administratietaken over te nemen, krijgen ambtenaren de ruimte om te focussen op het échte werk: overheidsdiensten beter maken. En passant besparen we de belastingbetaler dan ook nog eens honderdduizenden ponden.”

Triage door AI

In 2024 kregen huisartsenpraktijken in het Verenigd Koninkrijk 240 miljoen telefoontjes, waarbij patiënten gemiddeld 9,1 minuten moesten wachten om een receptioniste aan de lijn te krijgen. Vier procent van de bellers kreeg nooit iemand te spreken. Het Groves Medical Centre in Surrey en Zuidwest-Londen zag in dat dit moest veranderen en introduceerde een AI-gestuurd triagesysteem om de werkdruk voor het personeel te verminderen en vooral de hectiek rond 8 uur ’s ochtends te verlichten.

De resultaten waren boven verwachting: de wachttijden voor afspraken daalden van elf dagen naar drie dagen. De ochtendspits aan de telefoon nam enorm af, met 47% minder telefoontjes tijdens de drukste uren. En de extra efficiëntie ging niet ten koste van de kwaliteit van de zorg. Het aantal afspraken steeg met 60%, terwijl patiënten 70% minder vervolgafspraken nodig hadden omdat ze de eerste keer al de juiste zorg kregen. Artsen konden zelfs de duur van de afspraken uitbreiden van 10 naar 15 minuten, waardoor ze betere gesprekken met patiënten konden voeren in plaats van zich door het consult heen te moeten haasten.

Minder verkeersopstoppingen

In Dubai werkt de Roads and Transport Authority (RTA) aan het slimmer maken van het wegennet. Het centrale verkeerslichtensysteem gebruikt AI om verkeersopstoppingen te spotten zodra ze zich voordoen en past de verkeerslichten realtime aan zodat de doorstroming optimaal blijft. In plaats van met vaste tijden te werken die geen rekening houden met de werkelijke verkeerssituatie, voert het systeem simulaties uit van verschillende scenario’s en past vervolgens toe wat in de praktijk het beste werkt. 

Volgens Mohammed Al Ali, directeur intelligente verkeerssystemen bij RTA, zorgt het nieuwe systeem voor veel kortere wachttijden bij de stoplichten, betere afstemming tussen kruispunten en een vlottere doorstroming van het verkeer. Op sommige grote kruispunten is de efficiëntie met 37% verbeterd. En Dubai zit nog maar fase 1 van de upgrade. In 2026 zal de stad 300 door AI beheerde kruispunten hebben die auto’s, bussen, voetgangers en fietsers veilig en snel door het verkeer gaan loodsen. Niet alleen hulpdiensten, maar ook het openbaar vervoer en duurzame vervoersmiddelen krijgen voorrang in het verkeer. 

Een brug tussen de overheid en burgers

In Buenos Aires ligt de focus op het verbeteren van die meest basale van de overheidsdiensten: het beantwoorden van vragen. De chatbot van de stad heet Boti en beantwoordt inmiddels meer dan twee miljoen vragen per maand. Boti kan dat in zowel het Spaans als het Engels. De vragen variëren van ‘Waar kan ik mijn rijbewijs verlengen?’ tot ‘Wat is er dit weekend te doen in het centrum?’ Het team achter Boti werkte maandenlang aan het trainen van de chatbot om het alles te leren over de gemeentelijke diensten, toeristische attracties en administratieve processen. Interactie met Boti voelt bijna alsof je een sms stuurt naar een vriend of vriendin die overal van op de hoogte is. De winst binnen de gemeente is groot: de werkdruk is met 50% gedaald. Medewerkers kunnen zich bezighouden met complexe zaken terwijl Boti de routinevragen afhandelt. Burgers krijgen direct nauwkeurige antwoorden op al hun vragen, van openingstijden van musea tot vereisten voor vergunningen. Ondertussen leert de gemeente uit elke interactie naar wat voor soort informatie mensen op zoek zijn.

“Dankzij generatieve technologie konden we aantonen dat het nodig is om alle overheidsinformatie in één centrale databank onder te brengen,” zegt Julieta Rappan, algemeen directeur Digitale Kanalen bij de gemeente Buenos Aires. “Dit maakt het niet alleen efficiënter om de informatie naar verschillende kanalen te sturen, maar maakt het ook mogelijk om burgers een persoonlijkere en betere ervaring te geven, zoals met Boti met ChatGPT.” De chatbot zorgde er dus voor dat de overheid haar kennis ging organiseren op een manier waar burgers bij gebaat zijn.

“Het gebruik van algoritmen voor sociaal beleid brengt veel meer risico’s met zich mee dan voordelen.”

Soizic Pénicaud, universitair docent AI-beleid aan Sciences Po Paris

Als AI de mist in gaat

Van mensen die onterecht van fraude beschuldigd worden tot adviseren om de wet te overtreden; de missers van AI kunnen catastrofaal zijn.

Natuurlijk is er voor elk succesverhaal over AI ook een minder positief verhaal. Het Britse ministerie van Werk en Pensioenen beging bijvoorbeeld een pijnlijke en dure blunder toen haar algoritme voor fraudedetectie meer dan 200.000 mensen als potentiële uitkeringsfraudeurs aanmerkte. Er werd 4,4 miljoen pond uitgegeven aan het onderzoeken van de vermeende fraudegevallen, om vervolgens te ontdekken dat het systeem er in de meeste gevallen naast zat. Uit een intern onderzoek bleek wat velen al vermoedden: de AI vertoonde een duidelijke vooringenomenheid op basis van leeftijd, handicap, burgerlijke staat en nationaliteit. Het systeem haalde er bepaalde groepen uit, los van het daadwerkelijke risico.

Geautomatiseerd onrecht

Algoritmische discriminatie speelt in heel Europa, waarbij elk land zijn eigen versie van hetzelfde probleem heeft. In Frankrijk heeft de sociale dienst CNAF een systeem ontwikkeld dat de persoonsgegevens van meer dan 30 miljoen mensen analyseert om mogelijke gevallen van uitkeringsfraude op te sporen. Iedereen krijgt een score tussen 0 en 1, wat moet aangeven hoe groot de kans is dat iemand ten onrechte een uitkering ontvangt. Als je score te hoog is, kun je te maken krijgen met wat ontvangers omschrijven als ‘vergaande onderzoeken’ (die niet alleen uitkeringsgerechtigden betreffen, maar ook hun families en huisgenoten), waarbij je uitkering wordt opgeschort terwijl ambtenaren je leven onder de loep nemen op zoek naar fraude die waarschijnlijk niet eens bestaat. Als reactie hierop heeft een coalitie van mensenrechtenorganisaties juridische stappen ondernomen tegen de Franse regering, met het argument dat het algoritme stelselmatig mensen met een handicap en alleenstaande moeders discrimineert. De zaak is nog in behandeling, maar de Franse regering heeft inmiddels een nieuw instituut opgericht, INESIA, om het veilige gebruik van AI te beoordelen. 

Het meest schokkende geval van algoritmische onrechtvaardigheid vond in Nederland plaats, met zo’n 26.000 ouders die ten onrechte werden beschuldigd van fraude met de kinderopvangtoeslag. De Ghanese gemeenschap werd onevenredig zwaar getroffen. En de gevolgen waren ernstig: veel gezinnen raakten in een spiraal van schulden terecht, zagen hun kredietwaardigheid kelderen en hun leven werd totaal ontwricht door de valse beschuldigingen. Soizic Pénicaud, die AI-beleid doceert aan Sciences Po Paris, zegt dat het probleem niet in de technologie zelf zit, maar in hoe die wordt gebruikt. “Het gebruik van algoritmen voor sociaal beleid brengt veel meer risico’s met zich mee dan voordelen,” zegt ze. “Ik ken geen enkel voorbeeld in Europa of de rest van de wereld waar deze systemen tot iets positiefs hebben geleid.”

De regels aan je laars lappen

Zelfs de meest simpele AI-toepassingen kunnen spectaculair de mist ingaan als overheden ze overhaast invoeren, zonder ze eerst goed te testen. In oktober 2024 lanceerde New York City een AI-chatbot die ondernemers advies moest geven over regelgeving. De bot zag er professioneel uit, antwoordde zelfverzekerd en gaf advies dat vaak totaal niet klopte. Als je vroeg naar huurdersrechten, liet de bot vrolijk weten dat huisbazen hun huurders mogen buitensluiten en elke huurprijs kunnen vragen die ze willen. De bot leek ook in de war over de rechten van werknemers en adviseerde dat werkgevers een deel van de fooien mogen inhouden en roosters zonder voorafgaande kennisgeving mogen wijzigen. Vijf maanden lang verspreidde dit gezaghebbend klinkende systeem gevaarlijke onzin over belangrijke rechten. En wie weet hoeveel mensen daar de dupe van zijn geworden.

Share via
Copy link