Hoe houdt de AI-overheid de menselijke maat vast?

AI is geen innovatieproject, maar een publieke dienst

Een geslaagde pilot kan verleidelijk zijn: de wachttijd daalt, medewerkers vinden sneller informatie of signalen worden eerder zichtbaar. Toch is een AI-toepassing bij een gemeente pas bruikbaar als zij óók rechtvaardig, begrijpelijk en corrigeerbaar werkt voor de inwoner die ermee te maken krijgt.

Dat is geen vrijblijvende ambitie. De Europese AI-verordening hanteert een risicogebaseerde aanpak en noemt onder meer toegang tot essentiële publieke diensten als gevoelig toepassingsgebied. Voor systemen met een hoog risico zijn onder andere risicobeheersing, documentatie, goede datakwaliteit, registratie van gebeurtenissen en passend menselijk toezicht relevant.

Kort antwoord op de vraag hoe een gemeente AI verantwoord inzet: begin bij een afgebakend publiek probleem, leg vast wie de menselijke beslissing neemt, spreek toetsbare spelregels af en organiseer een stop- en herstelroute. Kies daarna pas een tool of leverancier.

De Publieke AI-besliskaart vóór je een leverancier kiest

Gebruik onderstaande vijf ontwerpkeuzes als gezamenlijke besliskaart. Niet als afvinklijst aan het einde, maar als startdocument voor beleid, uitvoering, inkoop en partners in de stad of regio.

1. Welk publiek probleem lossen we op?

Formuleer het probleem zonder technologie. Niet: we willen AI voor de Wmo. Wel: consulenten besteden veel tijd aan het zoeken naar actuele, gevalideerde informatie, waardoor inwoners langer op een duidelijk antwoord wachten.

Maak vervolgens het beoogde effect meetbaar. Denk aan kortere zoektijd voor medewerkers, minder onvolledige aanvragen of beter begrijpelijke communicatie. Benoem ook wat nadrukkelijk niet het doel is: bijvoorbeeld het automatisch bepalen van recht op ondersteuning, het rangschikken van inwoners op risico of bezuinigen door menselijke beoordeling weg te nemen.

2. Voor wie werkt het systeem minder goed?

De gemiddelde gebruiker bestaat niet. Betrek daarom vanaf het begin mensen die mogelijk nadeel ondervinden: inwoners met beperkte digitale vaardigheden, laaggeletterden, mensen die een andere taal spreken, jongeren, mantelzorgers en inwoners met complexe hulpvragen.

Onderzoek met hen en met uitvoerders waar taal, data of het proces iemand kunnen uitsluiten. Een systeem dat een aanvraag samenvat, kan bijvoorbeeld feitelijke informatie missen of onbedoeld een interpretatie als feit opschrijven. Maak daarom duidelijk welke invoer een medewerker altijd controleert en welke groepen extra aandacht nodig hebben.

3. Welke data zijn nodig en zijn ze passend?

Leg per gegevenssoort vast waarom deze nodig is, wie toegang krijgt, waar gegevens worden verwerkt, hoe lang ze worden bewaard en hoe fouten worden hersteld. De AVG blijft daarbij het uitgangspunt; AI is geen uitzondering op beginselen als doelbinding, dataminimalisatie en transparantie.

Stel ook de ongemakkelijke maar noodzakelijke vraag: kan dit probleem worden opgelost met minder gegevens, met betere procesinformatie of zonder persoonsgegevens? Als het antwoord ja is, verdient die route de voorkeur.

4. Wie neemt de beslissing en kan daarvan worden afgeweken?

Maak de menselijke beslisser zichtbaar in het proces. Die persoon moet voldoende tijd, kennis en bevoegdheid hebben om een advies van een systeem naast zich neer te leggen. Menselijk toezicht is geen handtekening onder een uitkomst die niemand meer kan verklaren.

Leg daarom vast:

• welke uitkomst AI hoogstens mag voorstellen of samenvatten;

• welke besluiten altijd door een bevoegde medewerker worden genomen;

• welke informatie die medewerker nodig heeft om af te wijken;

• hoe afwijkingen en fouten worden geregistreerd en besproken.

Voor de inwoner moet begrijpelijk zijn wanneer AI een rol speelt, wat de gevolgen kunnen zijn en hoe een mens de zaak opnieuw beoordeelt.

5. Hoe werkt bezwaar, correctie en de stopknop?

Een fout herstellen mag niet afhankelijk zijn van technische kennis of vasthoudendheid van de inwoner. Richt één bereikbare herstelroute in: een contactpersoon, een heldere uitleg, een termijn en de mogelijkheid om relevante gegevens of een uitkomst te laten corrigeren.

Definieer vooraf ook de stopknop. Welke signalen maken dat de proef direct wordt gepauzeerd? Voorbeelden zijn aantoonbare ongelijke uitkomsten, een datalek, onvoldoende uitlegbaarheid, structureel onjuiste adviezen of een onaanvaardbare toename van klachten. Spreek af wie die beslissing neemt en wie intern en extern wordt geïnformeerd.

Wie moet betrokken zijn bij gemeentelijke AI?

Betrek uitvoerders, inwoners en maatschappelijke partners vóór de toepassing wordt gekozen. Zij zien eerder waar data, taal of processen mensen uitsluiten. De gemeente kan de publieke opdracht, besluitvorming en verantwoording niet uitbesteden, maar heeft wel andere perspectieven nodig om die opdracht goed uit te voeren.

De gemeente: opdrachtgever en hoeder van publieke waarden

De gemeente vertaalt de maatschappelijke opgave naar duidelijke grenzen. Zij organiseert privacy, informatiebeveiliging, inkoop, archivering en toezicht als één samenhangend proces. De kernvraag voor bestuur en directie is niet: kan dit? Maar: past dit bij de dienst die wij inwoners willen bieden, en kunnen wij dat aantonen?

De uitvoering: eigenaar van de dagelijkse werkelijkheid

Consulenten, klantmanagers, KCC-medewerkers en andere uitvoerders weten waar uitzonderingen zitten en waar een standaardproces mensen tekortdoet. Geef hen een formele rol in ontwerp, test en evaluatie. Laat hen werken met echte, zorgvuldig beschermde casuïstiek en registreer waar de toepassing helpt, verwart of extra werk veroorzaakt.

Maatschappelijke organisaties: spiegel van de leefwereld

Welzijnsorganisaties, cliëntenraden, bibliotheken, belangenbehartigers en lokale initiatieven bereiken inwoners die niet vanzelf aan een gemeentelijke ontwerptafel verschijnen. Hun bijdrage is geen draagvlakronde achteraf. Zij helpen bepalen of taal begrijpelijk is, of een herstelroute bereikbaar is en welke gevolgen een systeem heeft buiten het gemeentehuis.

Technologiepartner: transparant over grenzen en afhankelijkheden

Van een leverancier mag de gemeente meer vragen dan een overtuigende demo. Eis inzicht in doel en werking, gegevensstromen, beveiliging, testresultaten, foutmarges, versiebeheer en de manier waarop incidenten worden gemeld. Maak afspraken over audits, exit, overdraagbaarheid van data en de mogelijkheid om de toepassing uit te zetten.

Praktijkvoorbeeld: AI in vroegsignalering zonder automatische conclusie

Stel dat een gemeente signalen van betalingsachterstanden sneller wil ordenen, zodat schuldhulpverlening eerder contact kan aanbieden. Een verantwoord ontwerp gebruikt AI dan hoogstens om informatie te structureren of te helpen prioriteren voor een medewerker. Het systeem stelt geen diagnose, kent geen hulp toe en beslist niet wie wel of niet wordt benaderd.

De besliskaart maakt zo’n proef concreet:

• Probleem: signalen komen versnipperd binnen en opvolging kost veel zoektijd.

• Doelgroep: inwoners met mogelijke betalingsproblemen, met extra aandacht voor mensen die beperkt digitaal bereikbaar zijn.

• Data: alleen gegevens die voor de vroegsignalering noodzakelijk en rechtmatig beschikbaar zijn; geen vrijblijvende verrijking met externe profielen.

• Menselijke beslissing: een opgeleide medewerker beoordeelt ieder signaal en kiest zorgvuldig of en hoe contact passend is.

• Herstel: een inwoner kan uitleg krijgen, gegevens laten controleren en bezwaar maken tegen feitelijke onjuistheden.

Test niet alleen of de toepassing tijd bespaart. Meet ook hoeveel voorstellen medewerkers corrigeren, of bepaalde groepen vaker onterecht worden geselecteerd, hoeveel inwoners contact als behulpzaam ervaren en hoeveel herstelverzoeken binnenkomen. Zonder die tegenmetingen blijft een pilot een technisch succes zonder bewijs van publieke waarde.

Hoe voorkomt u dat AI-pilots bij de overheid blijven steken?

Veel pilots stranden tussen enthousiasme en opschaling omdat eigenaarschap, bewijs en beheer niet zijn geregeld. Behandel een pilot daarom als een besluitvormingsfase, niet als een vrijblijvende proef.

Werk met vooraf afgesproken beslismomenten

Plan drie momenten: vóór de start, halverwege en aan het einde. Beantwoord steeds dezelfde vragen: behalen we het maatschappelijke effect, zijn de risico’s beheersbaar, werkt menselijke beoordeling werkelijk, begrijpen inwoners wat er gebeurt en zijn beheer en financiering geregeld?

Publiceer in eenvoudige taal wat wordt getest, met welk doel, welke gegevens worden gebruikt en waar inwoners terechtkunnen. Transparantie vervangt geen zorgvuldigheid, maar maakt toetsing en vertrouwen wel mogelijk.

Maak opschaling verdiend, niet automatisch

Schaal alleen op wanneer de toepassing aantoonbaar beter presteert dan de bestaande werkwijze op kwaliteit, toegankelijkheid én herstelbaarheid. Vraag een onafhankelijke blik van bijvoorbeeld een privacyfunctionaris, securityspecialist, cliëntenvertegenwoordiging of externe deskundige. Besluit vervolgens expliciet: stoppen, aanpassen, beperkt voortzetten of opschalen.

De AI Act onderstreept waarom deze discipline nodig is: hoe groter de mogelijke impact op grondrechten, veiligheid of toegang tot diensten, hoe zwaarder de eisen aan beheersing en toezicht. Wacht dus niet op een juridische deadline om publieke waarden in het ontwerp op te nemen.

Van pilot naar verantwoord netwerk

Gemeentelijke AI vraagt om een netwerk dat elkaar scherp houdt: publieke opdrachtgevers die grenzen stellen, uitvoerders die de praktijk toetsen, maatschappelijke partners die de leefwereld inbrengen en technologiebedrijven die transparant samenwerken. Zo wordt AI geen black box naast de dienstverlening, maar een begrensd hulpmiddel in dienst van die dienstverlening.

Wilt u regionale partners rond zo’n vraagstuk bij elkaar brengen? Via Brabant in Business komen ondernemende beslissers, kennis en samenwerkingskansen in Zeeland, Brabant en Limburg samen. Begin het gesprek niet met de technologie, maar met de inwoner voor wie zij bedoeld is.