De vraag
Als AI-codeeragents echt leveringswerk gaan doen in een organisatie die software levert aan de overheid, wat moet er dan waar zijn zodat niemand ze hoeft te vertrouwen? Ik ontwierp het antwoord voor een gereguleerde Nederlandse softwareleverancier aan de publieke sector: een pijplijn die werk van ticket naar productie brengt met gespecialiseerde agents in elke fase, en met controls die niet afhangen van het gedrag van de agents.
De principes
- Verificatie is de ruggengraat. Elke wijziging aan een model, een router of een prompt moet zijn evaluatieset doorstaan voordat hij wordt uitgeleverd. Acceptatietests worden geschreven door een aparte verifier-agent en vóór de run met een hash bevroren. Er is een harde iteratielimiet, en “iteraties tot groen” is een gevolgde metriek.
- Mensen houden de sleutels. Drie menselijke poorten: definition of ready, review en merge, en productiegoedkeuring. Geen agent heeft ooit merge- of productieschrijfrechten.
- Autonomie gaat alleen omlaag. Agents krijgen een gegradeerd autonomieniveau dat beleid kan verlagen maar nooit automatisch kan verhogen.
- Least privilege, tweemaal. De effectieve rechten van een agent zijn de overlap van zijn eigen rol en de rechten van de sponsorende mens, zodat hij die persoon nooit kan overstijgen. Tooltoegang is default-deny en wordt zowel in de agentruntime als aan de gateway afgedwongen, ontworpen tegen de OWASP MCP Top 10.
- Data blijft thuis. Een egress guard blokkeert geheimen en Nederlandse persoonsidentificatoren, buildtooling werkt uitsluitend op synthetische data, en modelproviders worden gepoort door een zero-retention-register.
- Bewijs als standaard. Een telemetriespoor waarin manipulatie aantoonbaar is, minimaal zes maanden bewaard, in lijn met artikel 12 en 19 van de EU AI Act.
Wat me verraste
De bindende beperking waren niet de tokens of de modelkwaliteit. Het was de menselijke reviewcapaciteit. Agents kunnen alleen zo snel schalen als de mensen die hun werk verifiëren, dus het operating model, niet de technologie, bepaalt het plafond.
Status
Ontworpen, goedgekeurd door het managementteam en in code gepiloteerd bij PinkRoccade Local Government. In algemene termen beschreven; het gedetailleerde materiaal is van de organisatie.