Progressieve autonomie: een volwassenheidsmodel voor agent-inzet

Dit is onderdeel van ons werk over agentic AI, de voorwaarde die verandert hoe alle zeven pijlerspijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry → van verantwoorde AIverantwoorde AIHet geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. De zeven principes worden geordend in een control-raamwerk van zeven pijlers, met één pijler per principe. Zie principe, pijler, governance.Open full entry → worden bestuurd.

Waarom autonomie verdiend moet worden, niet verleend

De meest voorkomende agentic governanceagentic governanceHet besturen van de handelingen die een autonoom AI-systeem verricht, niet alleen de beslissingen die het neemt; ervoor zorgen dat die handelingen beheersbaar, herleidbaar en omkeerbaar zijn. Zie agentic AI, control.Open full entry →-fout is te grote afhankelijkheid: een organisatie verleent een agent meer autonomie dan zijn aangetoonde betrouwbaarheid rechtvaardigt, meestal omdat de agent het goed deed in een demo. Demo-prestatie is het agentic equivalent van een pre-deployment biasbiasEen systematische scheefheid in data, modelgedrag of uitkomsten die de ene groep zonder rechtvaardiging anders behandelt dan de andere. Bias sluipt meestal binnen via trainingsdata die historische patronen weerspiegelen. Voor hoogrisico-AI-systemen vereist Artikel 10 van de EU AI Act onderzoek van datasets op mogelijke bias en maatregelen om die te detecteren, te voorkomen en te beperken. Zie eerlijkheid.Open full entry →-test die nooit wordt herhaald. Het vertelt je dat de agent één keer werkte, op een bekende input, in een gecontroleerde setting. Het vertelt je niets over hoe het zich gedraagt over de live-verdeling van inputs, in de tijd, in combinatie met andere agents.

Progressieve autonomieprogressieve autonomieEen agent de minste autonomie geven die hem laat werken, en zijn reikwijdte pas verbreden naarmate bewijs van betrouwbaar gedrag zich opbouwt. Autonomie wordt verdiend, niet ingesteld. Zie autonomieniveau, over-reliance.Open full entry → behandelt autonomie als iets dat een agent verdient door bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry →, niet als iets dat het door configuratie wordt verleend. De agent start met een smalle scope en acties met lage gevolgen, opereert onder nauwe observatie, en krijgt pas bredere scope wanneer het bewijs het ondersteunt. Dit is dezelfde logica als de pijler-volwassenheidsladder, waar een pijler van preventief-alleen naar volledig bestuurd beweegt naarmate meer controlelagen in werking treden. Toegepast op agents wordt het een inzetdiscipline.

Drie dimensies van autonomie

Autonomie is niet één grootheid. Het is nuttig om een agent langs drie dimensies te volgen, omdat een agent op de ene gevorderd en op de andere beperkt kan zijn.

BeslissingsbevoegdheidbeslissingsbevoegdheidEen dimensie van de autonomie van een agent: hoe ingrijpend de beslissingen zijn die hij mag nemen, van aanbevelen aan een mens tot beslissen en handelen zonder beoordeling. Zie autonomieniveau, verantwoordingsreikwijdte.Open full entry → is hoe ingrijpend de beslissingen zijn die de agent mag nemen. Aan de lage kant beveelt de agent aan en beslist een mens. Aan de hoge kant beslist de agent en handelt zonder beoordeling.

ProcesautonomieprocesautonomieEen dimensie van de autonomie van een agent: hoeveel van een proces in meerdere stappen hij uitvoert zonder menselijk ijkpunt, van een enkele stap tot een end-to-end-workflow. Zie autonomieniveau, beslissingsbevoegdheid.Open full entry → is hoeveel van een meerstapsproces de agent uitvoert zonder menselijk controlepunt. Aan de lage kant voltooit de agent één stap en geeft terug. Aan de hoge kant voert de agent een hele workflow uit, inclusief het aanroepen van sub-agentssub-agentEen agent die door een andere agent of een orchestrator wordt aangeroepen om een deel van een taak uit te voeren. Zijn handelingen erven nog steeds de verplichtingen van de stack waartoe hij behoort. Zie orchestrator, agentic stack.Open full entry →, van begin tot eind.

Verantwoordelijkheidsreikwijdte is hoe ver de gevolgen van de acties van de agent reiken. Aan de lage kant zijn acties intern, omkeerbaar en van lage waarde. Aan de hoge kant raken acties klanten, zijn ze moeilijk terug te draaien, en dragen ze juridisch of financieel gewicht.

Een goed bestuurde inzet is expliciet over waar elke agent op alle drie de dimensies staat, en beweegt een agent pas langs een dimensie wanneer de controlscontrolDe concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.Open full entry → voor het volgende niveau aanwezig zijn en het bewijs het rechtvaardigt.

Een vier-niveau-model

Niveau een, ondersteunend. De agent beveelt aan; een mens beoordeelt en voert elke actie uit. Beslissingsbevoegdheid, procesautonomie en verantwoordelijkheidsreikwijdte zijn alle laag. Vereiste controls: actie-logging, een helder menselijk beslispunt, en een gedocumenteerde scope. Dit is waar elke agent met grote gevolgen zou moeten starten.

Niveau twee, gesuperviseerd. De agent voert acties met lage gevolgen autonoom uit maar escaleert alles boven een gedefinieerde drempel naar een mens. Procesautonomie stijgt; beslissingsbevoegdheid en verantwoordelijkheidsreikwijdte blijven begrensd. Vereiste controls: escalatietriggersescalatietriggerEen regel die een handeling met grote gevolgen aan een mens overdraagt voordat ze wordt uitgevoerd. De correctieve control die menselijk toezicht betekenisvol houdt zodra beoordeling per handeling onmogelijk is. Zie menselijk toezicht, control-typen.Open full entry →, gedragsmonitoring tegen een verwachte bandbreedte, en het vermogen om de agent te stoppen.

Niveau drie, begrensd autonoom. De agent voert volledige workflows uit binnen een gedefinieerde grens, inclusief het aanroepen van sub-agents, en een mens is on the loop in plaats van in the loop. Vereiste controls: action-level logging over de keten, driftdriftHet geleidelijk afwijken van het gedrag of de prestaties van een AI-systeem van zijn gevalideerde staat na ingebruikname, zonder codewijziging of fout. Drift is van nature stil: er breekt niets, de nauwkeurigheid neemt gewoon af totdat iemand meet. De oorzaken zijn het onderscheiden waard: een verschuiving in de binnenkomende zakenmix, een wijziging in het bronmateriaal, een wijziging in omliggende systemen, of een update van het onderliggende model door de aanbieder. Zie model drift, agent drift.Open full entry →-detectie, circuit breakers, terugdraaicapaciteit waar het domein dat toelaat, en een getest incidentproces. Dit is het niveau waarop de high-risk verplichtingen van de EU AI ActEU AI ActVerordening (EU) 2024/1689, in het Nederlands de AI-verordening, de Europese wet over artificiële intelligentie. Ze hanteert een risicogebaseerde aanpak: verboden praktijken, eisen voor hoogrisico-AI-systemen, transparantieverplichtingen voor specifieke toepassingen en een apart regime voor AI-modellen voor algemene doeleinden (general-purpose AI). Verplichtingen zijn verdeeld tussen aanbieders en gebruiksverantwoordelijken. Zie hoogrisico-AI-systeem, general-purpose AI, conformiteitsbeoordeling.Open full entry → het hardst bijten, omdat het systeem nu beslissingen materieel beïnvloedt zonder menselijke beoordeling per actie.

Niveau vier, cross-agent bestuurd. Meerdere agents opereren als een bestuurd systeem, met een governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.Open full entry →-overzicht over het geheel, aandacht toegewezen aan de zwakste agent, en het agentic landschap gerund als een levend managementsysteem. Dit is het agentic equivalent van de ISO/IEC 42001ISO/IEC 42001De internationale eisennorm voor AI-managementsystemen, gepubliceerd in 2023 en certificeerbaar. Ze definieert hoe een organisatie een managementsysteem voor AI opzet, implementeert, onderhoudt en continu verbetert. Certificering tegen ISO/IEC 42001 schept geen wettelijk vermoeden van conformiteit met de EU AI Act. Zie geharmoniseerde norm.Open full entry → managementsysteem-volwassenheid waar het raamwerk van zeven pijlers naar wijst.

Hoe het model te gebruiken

Plaats voor elke agent in je inventaris het op de drie dimensies en de vier niveaus, en bevestig dat de controls die voor zijn niveau vereist zijn ontworpen, geïmplementeerd en aantoonbaar zijn. Een agent die op niveau drie opereert met alleen niveau-een controls is het agentic equivalent van een pijler die alleen door preventieve controls wordt bestuurd: het oogt capabel in een demo en faalt stil in productie.

De discipline is om autonomie een beslissing te maken die wordt gedocumenteerd, bestuurd en herzien, niet een default die omhoog kruipt naarmate het team zich comfortabeler voelt bij de agent. Comfort is geen bewijs. De agent verdient zijn volgende niveau door betrouwbaar gedrag onder monitoring aan te tonen, en de organisatie verleent het bewust, met de controls voor dat niveau al aanwezig.