Progressieve autonomie: een volwassenheidsmodel voor agent-inzet

Dit is onderdeel van het element Agentic AI van de GovCompass-7.

Waarom autonomie verdiend moet worden, niet verleend

De meest voorkomende agentische governanceagentische governanceHet besturen van de handelingen die een autonoom AI-systeem verricht, niet alleen de beslissingen die het neemt; ervoor zorgen dat die handelingen beheersbaar, herleidbaar en omkeerbaar zijn. Zie agentische AI, control.Open full entry →-fout is te grote afhankelijkheid: een organisatie verleent een agent meer autonomie dan zijn aangetoonde betrouwbaarheid rechtvaardigt, meestal omdat de agent het goed deed in een demo. Demo-prestatie is het agentische equivalent van een pre-deployment bias-test die nooit wordt herhaald. Het vertelt je dat de agent één keer werkte, op een bekende input, in een gecontroleerde setting. Het vertelt je niets over hoe het zich gedraagt over de live-verdeling van inputs, in de tijd, in combinatie met andere agents.

Progressieve autonomieprogressieve autonomieEen agent de minste autonomie geven die hem laat werken, en zijn reikwijdte pas verbreden naarmate bewijs van betrouwbaar gedrag zich opbouwt. Autonomie wordt verdiend, niet ingesteld. Zie autonomieniveau, over-reliance.Open full entry → behandelt autonomie als iets dat een agent verdient door bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry →, niet als iets dat het door configuratie wordt verleend. De agent start met een smalle scope en acties met lage gevolgen, opereert onder nauwe observatie, en krijgt pas bredere scope wanneer het bewijs het ondersteunt. Dit is dezelfde logica als de GovCompass-7 volwassenheidsladder, waar een pijlerpijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van het GovCompass-7 control-raamwerk, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van het integrerend element (agentische AI), dat de zeven bindt in plaats van er een van te zijn. Zie principe, schade, risico, integrerend element.Open full entry → van preventief-alleen naar volledig bestuurd beweegt naarmate meer controlelagen in werking treden. Toegepast op agents wordt het een inzetdiscipline.

Drie dimensies van autonomie

Autonomie is niet één grootheid. Het is nuttig om een agent langs drie dimensies te volgen, omdat een agent op de ene gevorderd en op de andere beperkt kan zijn.

BeslissingsbevoegdheidbeslissingsbevoegdheidEen dimensie van de autonomie van een agent: hoe ingrijpend de beslissingen zijn die hij mag nemen, van aanbevelen aan een mens tot beslissen en handelen zonder beoordeling. Zie autonomieniveau, verantwoordingsreikwijdte.Open full entry → is hoe ingrijpend de beslissingen zijn die de agent mag nemen. Aan de lage kant beveelt de agent aan en beslist een mens. Aan de hoge kant beslist de agent en handelt zonder beoordeling.

ProcesautonomieprocesautonomieEen dimensie van de autonomie van een agent: hoeveel van een proces in meerdere stappen hij uitvoert zonder menselijk ijkpunt, van een enkele stap tot een end-to-end-workflow. Zie autonomieniveau, beslissingsbevoegdheid.Open full entry → is hoeveel van een meerstapsproces de agent uitvoert zonder menselijk controlepunt. Aan de lage kant voltooit de agent één stap en geeft terug. Aan de hoge kant voert de agent een hele workflow uit, inclusief het aanroepen van sub-agents, van begin tot eind.

Verantwoordelijkheidsreikwijdte is hoe ver de gevolgen van de acties van de agent reiken. Aan de lage kant zijn acties intern, omkeerbaar en van lage waarde. Aan de hoge kant raken acties klanten, zijn ze moeilijk terug te draaien, en dragen ze juridisch of financieel gewicht.

Een goed bestuurde inzet is expliciet over waar elke agent op alle drie de dimensies staat, en beweegt een agent pas langs een dimensie wanneer de controls voor het volgende niveau aanwezig zijn en het bewijs het rechtvaardigt.

Een vier-niveau-model

Niveau een, ondersteunend. De agent beveelt aan; een mens beoordeelt en voert elke actie uit. Beslissingsbevoegdheid, procesautonomie en verantwoordelijkheidsreikwijdte zijn alle laag. Vereiste controls: actie-logging, een helder menselijk beslispunt, en een gedocumenteerde scope. Dit is waar elke agent met grote gevolgen zou moeten starten.

Niveau twee, gesuperviseerd. De agent voert acties met lage gevolgen autonoom uit maar escaleert alles boven een gedefinieerde drempel naar een mens. Procesautonomie stijgt; beslissingsbevoegdheid en verantwoordelijkheidsreikwijdte blijven begrensd. Vereiste controls: escalatietriggers, gedragsmonitoring tegen een verwachte bandbreedte, en het vermogen om de agent te stoppen.

Niveau drie, begrensd autonoom. De agent voert volledige workflows uit binnen een gedefinieerde grens, inclusief het aanroepen van sub-agents, en een mens is on the loop in plaats van in the loop. Vereiste controls: action-level logging over de keten, drift-detectie, circuit breakers, terugdraaicapaciteit waar het domein dat toelaat, en een getest incidentproces. Dit is het niveau waarop de high-risk verplichtingen van de EU AI Act het hardst bijten, omdat het systeem nu beslissingen materieel beïnvloedt zonder menselijke beoordeling per actie.

Niveau vier, cross-agent bestuurd. Meerdere agents opereren als een bestuurd systeem, met een governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, executie.Open full entry →-overzicht over het geheel, aandacht toegewezen aan de zwakste agent, en het agentische landschap gerund als een levend managementsysteem. Dit is het agentische equivalent van de ISO/IEC 42001 managementsysteem-volwassenheid waar het GovCompass-7 raamwerk naar wijst.

Hoe het model te gebruiken

Plaats voor elke agent in je inventaris het op de drie dimensies en de vier niveaus, en bevestig dat de controls die voor zijn niveau vereist zijn ontworpen, geïmplementeerd en aantoonbaar zijn. Een agent die op niveau drie opereert met alleen niveau-een controls is het agentische equivalent van een pijler die alleen door preventieve controls wordt bestuurd: het oogt capabel in een demo en faalt stil in productie.

De discipline is om autonomie een beslissing te maken die wordt gedocumenteerd, bestuurd en herzien, niet een default die omhoog kruipt naarmate het team zich comfortabeler voelt bij de agent. Comfort is geen bewijs. De agent verdient zijn volgende niveau door betrouwbaar gedrag onder monitoring aan te tonen, en de organisatie verleent het bewust, met de controls voor dat niveau al aanwezig.