Beheerste agentplatforms op een pagina
Het betoog van de acht veldnotities, samengevat voor een bestuur, een CIO of een architectuurreview. Print hem, of lees de notities achter elke regel.
Governance is geen laag die je op een agentplatform legt. Het is het platform. Al het andere wordt ingekocht.
Zo ziet een beheerste agent-actie eruit
Het patroon achter het platform dat ik bouwde. Elk blok is een plek waar de organisatie beslist, niet het model.
- 01Verzoek. Een gebruiker of gebeurtenis start een run. De run is vanaf de eerste stap duurzaam en controleerbaar.
- 02Beleidspoort. Regels worden buiten de prompt afgedwongen. Het model kan er niet omheen praten.
- 03Modelaanroep. Via een gateway met een gekwalificeerde, vastgezette route. Output geldt als onvertrouwde kandidaat.
- 04Toolactie. Standaard-weigeren met toegestane lijst, twee keer afgedwongen: in de runtime en bij de gateway.
- 05Menselijke goedkeuring. Acties met hoog risico wachten op een mens met naam. De rest wordt op de loop bewaakt.
- 06Bewijs. Hash-geketend record van wat gold, wie goedkeurde, wat gebeurde. Achteraf niet te bewerken.
Illustratie van het ontwerp, geen klantresultaat
Vijf beslissingen die elk agentplatform neemt, of iemand ze nu koos of niet
- 01
Identiteit en delegatie
Wie is deze agent, namens wie handelt hij, en wat mag hij dat die persoon niet mag? Agents zijn principals met een eigen, intrekbare identiteit; effectieve rechten overstijgen nooit de sponsorende mens.
- 02
Beleidshandhaving
Waar draaien de regels? Buiten de prompt en buiten de runtime, in een onderdeel dat geen agentcode uitvoert. Een regel binnen het ding dat hij bestuurt is een afspraak, geen control.
- 03
Approval binding
Wat keurt de mens precies goed? Een specifieke planrevisie en bewijsstatus, met een geldigheidsvenster. Als er iets veranderde, is de goedkeuring verlopen en vraagt de run opnieuw.
- 04
Toolbemiddeling
Wie beslist of een tool call wordt uitgevoerd? Een deterministisch onderdeel, standaard-weigeren, twee keer afgedwongen. Modeloutput is een voorstel, nooit een instructie.
- 05
Bewijs
Welk record blijft over? Een record geschreven door het onderdeel dat jij bezit, hash-geketend, nooit bewerkt. Providerlogs en traces zijn grondstof, geen bewijs.
De acht notities, elk in een regel
- 01De trust rootGeen modelprovider, runtime of cloud mag het onderdeel zijn dat je niet ter discussie kunt stellen. Bezit een kleine governance-ruggengraat; koop al het andere in. Doe de exit-test.
- 02Connected is niet soevereinTwee assuranceklassen, en de tweede impliceert nooit de eerste. Een modelroute is een onveranderlijk contract. Geen automatische failover tussen klassen.
- 03Wat frameworks besturenFrameworks besturen wat binnen de run leeft. Identiteit, beleid, goedkeuring en bewijs laten ze aan jou. Koop de runtime, bouw de ruggengraat.
- 04MCP-gatewaysEen gateway bemiddelt tools en stuurt identiteit door. Hij kan geen goedkeuringen binden en maakt toolservers niet veilig. Beoordeel hem als beveiligingscomponent.
- 05De run is de eenheidDurable execution is eerst een governance-eis en dan pas een betrouwbaarheidseis. Zonder run kan niets worden goedgekeurd, gecontroleerd of gestopt.
- 06Bewijzen of hopenEvaluatie bewijst gedrag op gekozen gevallen. Guardrails toetsen een verzoek. Observability toont wat er gebeurde. "Veilig te gebruiken" hoort bij een mens met een datum.
- 07Bewijs tegen enthousiasmeDat het veld een capability heeft, bewijst nooit dat jij die hebt. Benoem onderwerp en tijdscope van elke claim. Herwaardeer eerst jezelf.
- 08Regels voor codeeragentsAfgebakende schrijfsets, verboden beslisvelden, "niet vastgesteld", aftekening door een mens met naam. Validators detecteren; mensen voorkomen.
Vier vragen voor je volgende architectuurreview
- Welk onderdeel is onze trust root, en hebben we die gekozen?
- Als de soevereine route op vrijdagmiddag uitvalt, wat doet het systeem dan?
- Voor elk framework of elke gateway op de tekening: welke van de vijf beslissingen neemt het, en bij welke staat "wij"?
- Wat was ons overrulepercentage vorige maand, en wie heeft het mandaat bij elke poort?