Speelgoedpolitiek: innovatie zonder begrip

Breda noemt zichzelf graag een ‘slimme stad’. Maar wie de Rekenkamer leest, ontdekt vooral een stad die technologie gebruikt zoals een kind dat voor het eerst vuurwerk in handen krijgt: enthousiast, trots zelfs, maar totaal onwetend over de gevolgen. Het woord ‘innovatie’ is in Breda een vlag die alles moet bedekken, behalve de werkelijkheid: de gemeente zet systemen in die wijken beoordelen, risico’s voorspellen en inwoners rangschikken, terwijl niemand weet wie toezicht houdt, wie verantwoordelijk is of zelfs welke algoritmes precies draaien.

Het college zegt dat het “werkt aan governance”. De Rekenkamer laat zien hoe leeg die woorden zijn. Er is geen governance. Er is geen overzicht. Er is geen grip. Een slimme stad begint bij weten wat je doet. Breda weet niet eens wát ze gebruikt.

Algoritmes zoeken alsof het verloren voorwerpen zijn

Het meest schokkende detail in het Rekenkamerstuk is bijna komisch, als het niet zo ernstig was: om te ontdekken welke algoritmes Breda gebruikt, moest de Rekenkamer openbare bronnen raadplegen. Niet omdat dat handig is, maar omdat de gemeente zelf geen register heeft, geen archief bijhoudt en geen totaaloverzicht kan tonen. Breda weet niet waarmee zij stuurt. In een tijd waarin algoritmes steeds vaker het verschil maken tussen wel of geen handhaving, een signaal of geen signaal, ondersteuning of extra controle, is dat geen organisatorisch slordigheidje. Een overheid die algoritmes laat meewegen maar niet weet welke dat zijn, heeft de fundamentele verplichting van transparantie ingeruild voor een digitale gokmachine.

Ondertussen zegt het college: “We zijn ermee bezig.” Het doet denken aan een brandweerman die, terwijl het dak al brandt, meldt dat hij werkt aan een plan om misschien te gaan blussen.

Vereiste voor verantwoord gebruik van AI	Situatie in Breda
Algoritmeregister	Niet aanwezig
Juridisch kader	Niet opgesteld
Ethiekcommissie met mandaat	Bestaat niet
Transparantie richting inwoners	Afwezig
Risicoclassificatie volgens AI Act	Geen enkele
Voorafgaande melding aan raad	Niet structureel
Uitvoeringsprotocol per algoritme	Niet aanwezig

Ethiek als decorstuk: zichtbaar, maar machteloos

Breda pronkt graag met het Stedelijk Ethisch Team, een club die vooral indrukwekkend klinkt. Maar wie beter kijkt, ziet een orgaan zonder tanden, zonder bevoegdheid, zonder doorzettingsmacht. Het mag adviseren, maar niet beslissen. Het mag reflecteren, maar niet ingrijpen. Het mag meedenken, maar niet blokkeren.

Het is ethiek als decor: bedoeld om de façade netjes te houden terwijl er achter de schermen geen enkel juridisch, bestuurlijk of operationeel mechanisme bestaat dat daadwerkelijk risico’s voorkomt. Terwijl elders gemeenten werken met ethische toetsingskaders, DPIA’s, risicomatrices en onafhankelijke algoritmecommissies, schuift Breda een denktankje naar voren alsof dat digitale bescherming biedt.

Maar symboliek beschermt niemand. Zeker niet wanneer technologie directe impact heeft op levens, kansen en behandeling door de overheid.

Hoog-risico AI in de schaduw: precies daar waar het misgaat

De Rekenkamer benoemt twee praktijken die Europees gezien tot de hoogste risicocategorie behoren: ‘verwonderadressen’ en risicotaxatie van jongeren. Het zijn methoden die kunnen bepalen welke woningen worden gecontroleerd, welke gezinnen extra aandacht krijgen en welke kinderen als vatbaar voor criminaliteit worden bestempeld.

Dit zijn instrumenten die wanneer het verkeerd gebruikt wordt levens ruïneren. Ze verdienen maximale transparantie, strenge controle, duidelijke juridische kaders en permanente evaluatie. Breda heeft niets van dat alles. Geen vastgelegd proces. Geen juridische basis. Geen transparantie naar inwoners. Geen toetsing. Geen verantwoordelijkheid.

Wanneer zulke systemen draaien in het donker, is willekeur geen mogelijkheid maar een zekerheid. De Rekenkamer formuleert het netjes: “ongewenste uitkomsten”. Wie de toeslagenaffaire heeft bestudeerd, kent de ware betekenis van die woorden.

De raad op stil: democratische blindheid

In een gezonde democratie houdt de gemeenteraad toezicht op technologie die diep ingrijpt in de samenleving. Maar in Breda? Daar hoort de raad nauwelijks iets over nieuwe algoritmes. Geen overzicht. Geen afwegingskader. Geen voorafgaande meldingen.

De raad wordt pas wijzer als er stukken uitlekken, als de Rekenkamer aan de bel trekt of wanneer journalisten signalen oppikken. Daarmee is de raad niet langer het democratisch kompas, maar een figurant in een technocratisch systeem waar niemand nog de knoppen begrijpt.

Onwetendheid is geen fout meer, maar een functie. En dat is misschien wel de meest verontrustende conclusie uit dit alles.

Burgers gescand, bestuur blind

De Rekenkamer stelt dé vraag die elke inwoner mag stellen: hoe worden burgers geïnformeerd wanneer algoritmes over hen oordelen? Het antwoord is simpel: ze worden helemaal niet geïnformeerd. Geen register. Geen uitleg. Geen rechtszekerheid. Geen inzicht in welke criteria worden gebruikt, welke aannames worden gemaakt, of welke risico’s worden toegekend.

Een inwoner kan geprofileerd worden zonder het te weten. Kan in een risicocategorie vallen zonder uitleg. Kan beoordeeld worden door een systeem dat niemand ooit gezien heeft. Dit is geen slimme stad. Dit is een ondoorzichtige stad. Een stad waar technologie achter de schermen macht heeft, terwijl inwoners in het duister moeten vertrouwen op processen die ze niet mogen kennen.

Wat U moet kunnen weten (AVG)	Wordt dit in Breda gedaan?
Wordt er een algoritme op mij toegepast?	Nee
Mag ik de logica achter beslissingen weten?	Nee
Mag ik bezwaar maken tegen geautomatiseerde profilering?	Nee (want niet bekend)
Worden algoritmes uitgelegd op een publieke plek?	Nee

Een vacuüm waar risico’s regeren

De Rekenkamer is opvallend mild in haar formuleringen, maar de onderliggende boodschap is explosief: Breda werkt met technieken die diep ingrijpen in mensenlevens, zonder enige structurele borging. Dat is niet alleen een risico, maar een recept voor misstanden. Niet omdat mensen kwaad willen, maar omdat niemand verantwoordelijk ís. In zo’n vacuüm gedijen fouten, blinde vlekken, vooringenomen modellen en onbedoelde discriminatie. De geschiedenis leert dat waar technologie zonder toezicht draait, de mens altijd de prijs betaalt.

Breda staat op een kruispunt

Breda gebruikt technologie zonder overzicht, zonder kaders, zonder ethiek en zonder democratische controle. Het systeem opereert buiten het zicht van de raad, buiten het bewustzijn van inwoners en buiten de verantwoordelijkheid van het bestuur.

Het is tijd dat inwoners weten wat er over hen wordt beslist. Het is tijd voor antwoord op onze vragen. En het is tijd dat innovatie niet langer een excuus is voor bestuurlijke blindheid. Technologie moet dienen, niet besturen. En een stad die haar eigen algoritmes niet begrijpt, verliest niet alleen controle maar ook het vertrouwen van haar inwoners.