Agentic AI: wat verandert er wanneer het systeem handelt, niet alleen beslist

Wat agentic AI is, en wat niet

Een klassiek AI-systeemAI-systeemEen machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.Open full entry → produceert een uitvoer: een score, een aanbeveling, een concept. Een mens bekijkt die uitvoer voordat er iets in de wereld gebeurt. Die menselijke beoordeling is een natuurlijk checkpoint, en de principesprincipeEen van de zeven waarden van verantwoorde AI waaraan een bestuurd systeem zou moeten voldoen (eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, menselijk toezicht). Een principe is abstract: het benoemt een uitkomst, geen knop die je kunt omzetten. Het wordt bestuurbaar door de schade te benoemen die het zou schenden, het risico van die schade in te schatten, en controls tegen dat risico te plaatsen. Zo geborgd, wordt een principe een pijler. Zie pijler, schade, risico.Open full entry → van verantwoorde AIverantwoorde AIHet geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. De zeven principes worden geordend in een control-raamwerk van zeven pijlers, met één pijler per principe. Zie principe, pijler, governance.Open full entry → zijn uitgewerkt met dat checkpoint op zijn plaats: fairnessfairnessHet principe dat een AI-systeem geen groep systematisch benadeelt. Het breekt zelden openlijk: de gangbare routes zijn historische data die eerdere scheefheid meeneemt naar nieuwe beslissingen, en proxy-discriminatie, waarbij een model nooit een beschermd kenmerk ziet maar er een vervanger voor leert, zoals een postcode of een gat in een cv. Onder de EU AI Act moeten aanbieders van hoogrisico-AI-systemen hun datasets onderzoeken op mogelijke bias (artikel 10), en enkele discriminerende toepassingen zijn ronduit verboden (artikel 5). Zie bias, verantwoorde AI, hoogrisico-AI-systeem.Open full entry → wordt op de uitvoer geverifieerd, human oversighthuman oversightHet ingebouwde vermogen van mensen om een AI-systeem te bewaken, in te grijpen, te overrulen of te stoppen. Het is alleen betekenisvol wanneer de mens bevoegdheid, informatie en tijd heeft om te handelen. Een van de zeven pijlers van verantwoorde AI, en onder de EU AI Act een eis aan hoogrisico-AI-systemen: artikel 14 vereist dat die systemen zo zijn ontworpen dat natuurlijke personen er effectief toezicht op kunnen houden. Toezicht dat op papier bestaat maar in de praktijk neerkomt op bevestigen, haalt die lat niet. Zie override rate, hoogrisico-AI-systeem, fairness, safety and reliability, privacy, security and robustness, transparency and explainability, accountability, verantwoorde AI.Open full entry → gebeurt bij de uitvoer, accountabilityaccountabilityHet principe dat een benoemde persoon verantwoordelijkheid draagt voor wat een AI-systeem doet. Het faalt structureel en niet door nalatigheid: de aanbieder bouwde het model, de gebruiksverantwoordelijke draait het, en beide gaan ervan uit dat de ander de plicht draagt, totdat er iets misgaat en "het systeem deed het" de feitelijke positie van de organisatie blijkt te zijn. De EU AI Act hangt verplichtingen aan de rol en niet aan de technologie, met plichten voor de aanbieder in artikel 16 en voor de gebruiksverantwoordelijke in artikel 26, ondersteund door technische documentatie (artikel 11) en record-keeping (artikel 12). Zie aanbieder, gebruiksverantwoordelijke, record-keeping, verantwoorde AI.Open full entry → hangt aan de persoon die op de uitvoer handelde.

Een agentic systeem verschilt op één beslissende manier: het handelt. Het plant een taak, kiest tools, voert een stap uit, leest het resultaat, en voert de volgende stap uit, waarbij elke stap de volgende voedt. Een betaling wordt gedaan, een dossier wordt gesloten, een bericht wordt verstuurd, en de mens staat niet langer tussen elke stap en het gevolg ervan.

Dit is geen randverschijnsel. Agents verschuiven van experimenten naar kernprocessen in de software die organisaties al draaien, en industry projections plaatsen agent-functionaliteit binnen enkele jaren in een groot deel van de zakelijke applicaties. De governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.Open full entry →-vraag is niet langer of een organisatie agents zal draaien, maar of ze die bewust bestuurt of ze achteraf ontdekt.

Wat agentic AIagentic AISystemen waarin een model handelingen verricht, tools aanroept, plannen in meerdere stappen uitvoert, wat zowel de capaciteit als elke faalvorm versterkt; bestuurd met action-allowlists, goedkeuringen en volledige logging. Zie AI-agent, agentic governance.Open full entry → niet is: het is geen achtste pijlerpijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry →. Fairness, veiligheid, privacyprivacyHet principe dat persoonsgegevens die een AI-systeem gebruikt of voortbrengt binnen het doel en de grondslag blijven waarvoor ze zijn verzameld. Drie routes veroorzaken de meeste problemen: persoonsgegevens in trainingsmateriaal dat daar nooit voor bedoeld was, modeloutput die reproduceert wat het model heeft onthouden, en purpose creep, waarbij een systeem dat voor één gebruik is gebouwd afglijdt naar een ander gebruik dat de oorspronkelijke grondslag niet dekte. De AVG regelt dit volledig, en de EU AI Act voegt data governance-plichten toe voor hoogrisicosystemen (artikel 10). Zie DPIA, verantwoorde AI.Open full entry →, beveiliging, transparantietransparantieOpenheid over het feit dát AI wordt gebruikt en hoe het in het algemeen werkt: openbaarmakingen, documentatie, kennisgevingen. Vormt een paar met uitlegbaarheid, die over individuele uitkomsten gaat. Zie uitlegbaarheid, principe.Open full entry →, accountability en human oversight blijven de complete set. Wat verandert is de conditie waaronder alle zeven moeten standhouden: continu, over een samenhangende reeks acties, in plaats van één keer per beoordeelde uitvoer.

Het checkpoint verschuift

De kern van de verandering past in één zin: het checkpoint verschuift van binnen elke beslissing naar rondom het hele systeem.

In de praktijk valt die ene verschuiving uiteen in drie verschuivingen, en elk ervan landt in governance.

Van periodiek naar continu. Een model dat uitvoer produceert voor beoordeling kan in cycli worden bestuurd: valideren vóór release, steekproeven beoordelen, periodiek auditen. Een agent die op machinesnelheid handelt kan dat niet. Tegen de tijd dat een periodieke beoordeling draait, heeft de agent duizenden acties uitgevoerd. Toezicht wordt een continue activiteit: de keten wordt bewaakt terwijl ze loopt, niet achteraf gereconstrueerd. Dat is geen tooling-voorkeur; het is een verandering in wat het uitvoeringsniveau van governance moet leveren.

Van uitvoerbeoordeling naar mandaat en grenzen. Geen enkele organisatie kan elke actie die een agent neemt beoordelen; dat is juist het punt van een agent. Wat de organisatie wel kan doen is vooraf bepalen wat de agent mag doen: zijn reikwijdte, de tools die hij mag gebruiken, de data die hij mag raken, de grenzen die hij moet respecteren, en het punt waarop hij moet stoppen en overdragen aan een persoon. Die beslissing is het mandaat van de agent, en dat opschrijven is ontwerpwerk. Een agent zonder expliciet mandaat heeft er toch één, alleen ongedefinieerd, en ongedefinieerde mandaten zijn waar agents dingen doen die niemand had besloten dat ze moesten doen.

Van beslissings-accountability naar mandaat-accountability. Bij een klassiek systeem hangt accountability aan de persoon die de uitvoer goedkeurde. Bij een agent verandert de vraag: wie gaf deze agent dit mandaat, en kan de organisatie voor elke actie aantonen onder wiens autorisatie de agent handelde. Dat is een audit trail-vereiste en een rollenvraag. Als het spoor ontbreekt, kan de organisatie haar eigen besluitvorming niet meer reconstrueren, en governance verliest wat het bestaat om te produceren: bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry →.

De risico's die er voor de organisatie toe doen

Beveiligingsonderzoek produceert gedetailleerde taxonomieën van technische aanvalsoppervlakken voor agents. Die doen ertoe, maar het is een andere scope: ze beschrijven hoe agents kunnen worden aangevallen. Governance gaat over hoe agents worden beheerst, en daar clusteren de risicorisicoIn de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.Open full entry →'s in vier patronen.

Acties buiten het mandaat. De agent doet iets dat niemand expliciet toestond, meestal omdat het mandaat nooit scherp is gedefinieerd. De fout zit niet in de agent; ze zit in het ontwerpniveau dat de grenzen nooit opschreef.

Ketenfouten die zich opstapelen. In een keten van meerdere stappen stapelt een klein foutpercentage per stap zich op over de stappen. Een agent die screent, beprijst of toewijst kan een kleine vertekening of een kleine datafout omzetten in veel verkeerde beslissingen voordat iemand een uitkomst beoordeelt. De klassieke controle per uitvoer had het één keer gevangen; in een keten herhaalt het zich.

Accountability-gaten. Acties gebeuren, maar de organisatie kan niet aantonen welke agent ze nam onder wiens autorisatie. Er hoeft zelfs niets fout te zijn gegaan, en de governance-fout is toch echt: het bewijs dat de besluitvorming beheerst was, bestaat niet.

Toezicht dat op papier bestaat. Een mens zit formeel in de loop, maar beoordeelt in de praktijk zoveel agent-beslissingen dat beoordelen samenvalt met bevestigen. Automation biasautomation biasDe menselijke neiging om geautomatiseerde uitkomsten te veel te vertrouwen, een aanbeveling van een systeem aanvaarden zonder het geval echt te wegen, wat het menselijk toezicht uitholt. Zie menselijk toezicht.Open full entry → verandert human-in-the-loophuman-in-the-loopEen toezichtsopstelling waarin een mens elk geval dat het systeem aanbeveelt goedkeurt of beslist, passend bij individuele beslissingen met grote gevolgen, en alleen betekenisvol met bevoegdheid, informatie en tijd. Zie menselijk toezicht, human-on-the-loop.Open full entry → in human-on-the-loophuman-on-the-loopEen toezichtsopstelling waarin mensen de werking monitoren en bij uitzondering ingrijpen, passend bij systemen met grote volumes waar beoordeling per geval onmogelijk is. Zie menselijk toezicht, human-in-the-loop.Open full entry → zonder dat iemand het besloot. Voor agents is dit de standaard-faalmodus, niet de uitzondering, en het is waarom toezicht rondom het systeem moet worden ontworpen in plaats van per beslissing verklaard.

Wat de wet en de frameworks vereisen

De EU AI ActEU AI ActVerordening (EU) 2024/1689, in het Nederlands de AI-verordening, de Europese wet over artificiële intelligentie. Ze hanteert een risicogebaseerde aanpak: verboden praktijken, eisen voor hoogrisico-AI-systemen, transparantieverplichtingen voor specifieke toepassingen en een apart regime voor AI-modellen voor algemene doeleinden (general-purpose AI). Verplichtingen zijn verdeeld tussen aanbieders en gebruiksverantwoordelijken. Zie hoogrisico-AI-systeem, general-purpose AI, conformiteitsbeoordeling.Open full entry → heeft geen apart hoofdstuk voor agents, en heeft dat ook niet nodig: de verplichtingen gelden voor wat een systeem doet, en een agent in een high-risk toepassing is een high-risk systeem. Twee ankers doen er het meest toe. Artikel 14 vereist dat high-risk systemen effectief kunnen worden gecontroleerd door natuurlijke personen, inclusief het vermogen om in te grijpen of te onderbreken. Artikel 26 legt toezichtplichten bij de gebruiksverantwoordelijkegebruiksverantwoordelijkeEen organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.Open full entry →, waaronder het toewijzen van toezicht aan personen met de competentie, training en bevoegdheid om het uit te voeren. Voor een agent is het per beslissing voldoen aan die plichten per constructie onmogelijk, dus ze moeten rondom het systeem worden ingevuld: grenzen, monitoring en interventievermogen, ontworpen en aangetoond.

Naast de Act beginnen er specifieke agentic governanceagentic governanceHet besturen van de handelingen die een autonoom AI-systeem verricht, niet alleen de beslissingen die het neemt; ervoor zorgen dat die handelingen beheersbaar, herleidbaar en omkeerbaar zijn. Zie agentic AI, control.Open full entry →-frameworks te verschijnen, en hun kernvereisten lezen als een governance-checklist: begrensde autonomie en tooltoegang, herleidbaarheid van elke agentactie naar een menselijke besluitvormer, en gedefinieerde checkpoints waar een persoon het overneemt. De gevestigde managementframeworks, het NIST AI RMFNIST AI RMFHet AI Risk Management Framework van het Amerikaanse National Institute of Standards and Technology, gepubliceerd als versie 1.0 in 2023. Het is een vrijwillig raamwerk rond vier functies: govern, map, measure en manage. In een gelaagde opzet dient het als risicomethode binnen een managementsysteem zoals ISO/IEC 42001. Zie ISO/IEC 42001, ISO/IEC 23894.Open full entry → en ISO/IEC 42001ISO/IEC 42001De internationale eisennorm voor AI-managementsystemen, gepubliceerd in 2023 en certificeerbaar. Ze definieert hoe een organisatie een managementsysteem voor AI opzet, implementeert, onderhoudt en continu verbetert. Certificering tegen ISO/IEC 42001 schept geen wettelijk vermoeden van conformiteit met de EU AI Act. Zie geharmoniseerde norm.Open full entry →, blijven de structurele basis, maar ze zijn geschreven voor systemen waarvan de beslissingen kunnen worden beoordeeld; voor agents moeten dezelfde structuren worden ingevuld met continue in plaats van periodieke uitvoering.

Agents besturen: ontwerp en uitvoering

Agentic AI heeft geen nieuw governance-systeem nodig. Het heeft de twee niveaus nodig die de organisatie al draait, met agent-specifieke inhoud in elk.

Op het ontwerpniveau stelt de organisatie de regels vast voordat een agent draait: een mandaat per agent (reikwijdte, tools, data, grenzen, en een benoemde eigenaar, geen agent zonder eigenaar); delegatie expliciet gemaakt (wie welke mandaten mag verlenen, vastgelegd zodat accountability een adres heeft); en escalatie- en interventieregels vooraf gedefinieerd (wanneer de agent uit zichzelf moet stoppen, wanneer een persoon erbij wordt gehaald, en wie hem kan uitschakelen).

Op het uitvoeringsniveau voert de organisatie die regels uit, continu: bewaak de keten terwijl ze loopt, met automatische escalatie wanneer de agent buiten zijn grenzen raakt; houd de audit trail per actie bij (welke agent, onder wiens mandaat); en test het interventievermogen, want een noodstop die nooit is gebruikt is een hypothese, geen controlcontrolDe concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.Open full entry →.

Het patroon is dezelfde keten die al het andere op deze site bestuurt: het principe, de schadeschadeDe concrete schade die een AI-systeem kan aanrichten en die een principe van verantwoorde AI beoogt te voorkomen: in de termen van de EU AI Act schade aan iemands gezondheid, veiligheid of grondrechten. Schade is de brug tussen een abstract principe en een bestuurbaar risico; governance wordt operationeel op het moment dat een organisatie de specifieke schades benoemt die ze wil voorkomen. Voor eerlijkheid is een schade dat een groep stelselmatig slechtere uitkomsten krijgt vanwege een kenmerk dat niet had mogen meetellen. Zie principe, risico.Open full entry → die het zou schenden, het risico, de control, en het bewijs dat de control werkt. Agents veranderen de inhoud van de controls en het tempo van de uitvoering; ze veranderen de keten niet.

Over alle zeven pijlers

Omdat het checkpoint voor het systeem als geheel verschuift, wordt elke pijler geraakt, elk op zijn eigen manier. De pijlerpagina's werken elk uit in een apart blok "met agentic AI", opgesplitst in governance designgovernance designHet ontwerpniveau van AI governance: beleid, rollen, organisatiestructuur en risicobereidheid. Governance design bepaalt de grenzen waarbinnen AI-systemen mogen opereren; het execution level toetst of de werkelijkheid daarbinnen blijft. Zie execution level, risicobereidheid.Open full entry → en uitvoering.

Waar te beginnen

De startdiscipline is dezelfde als voor AI governance in het algemeen, toegepast op agents.

Inventariseer eerst: vind de agents die al draaien, inclusief de agents die stilletjes zijn aangezet in de SaaS-tools die de organisatie al gebruikt. Je kunt niet mandateren wat je niet in kaart hebt gebracht. Geef vervolgens elke agent een mandaat en een eigenaar. Laat daarna het spoor werken: voor elke actie, welke agent, onder wiens autorisatie. Definieer dan de escalatie- en interventieregels, en test ze. En bewaak gedrag continu, want bij agents is het achteraf beoordelen van uitkomsten het beoordelen van geschiedenis.

In die volgorde gedaan houden agents op een uitzondering te zijn die het governance-systeem tolereert en worden ze wat elk ander AI-systeem is: iets dat de organisatie kan begrijpen, beheersen en waarover ze controle kan aantonen.

Uitgewerkt: architectuur, risico, controls

De stappen hierboven bepalen de volgorde voor de organisatie. Het ontwerpwerk daarachter is uitgewerkt in drie artikelen die één reeks volgen, waarbij elk artikel de vraag beantwoordt die het vorige openlaat.

1. Hoe een AI-agent uw bedrijfsproces kent brengt de architectuur in kaart: de zes bouwblokken waarlangs proceskennis de agent bereikt, plus de autonomie die hij krijgt, en waartoe elk van die keuzes de organisatie verplicht.
2. Risicoanalyse voor agentic AI vertaalt die architectuurkeuzes naar risicoscenario's en control objectivescontrol objectiveEen uitspraak over de uitkomst die een control moet bereiken, bijvoorbeeld "ongeautoriseerde betalingen mogen technisch niet uitvoerbaar zijn". Het benoemt wat waar moet zijn in plaats van wat er gebouwd moet worden, waardoor meer dan één control activity eraan kan voldoen. Het objective gescheiden houden van de activity is wat een controlregister toetsbaar houdt. Zie control activity, afdwingpunt.Open full entry →, met de risicomethode die deze site al beschrijft en niet met een aparte methode.
3. De controleomgeving van agentic AI neemt die objectives en vraagt waar elk objective wordt afgedwongen, hoe u toetst dat het standhoudt, en welk bewijs laat zien dat het over een periode standhield.

In die volgorde gelezen beantwoorden de drie één vraag in drie delen: waar de kennis en bevoegdheid van de agent leven, wat daardoor mis kan gaan, en waar de controls horen.

Verder lezen

• AI governance: het stelsel dat verantwoorde AI levert
• Waarom je agentic stack één high-risk systeem is
• Een agent documenteren is niet hetzelfde als hem besturen
• Progressieve autonomie: een volwassenheidsmodel voor agent-inzet