Waarom je agentic stack één high-risk systeem is
Onder de EU AI Act splitst het opdelen van een autonome workflow over meerdere agents de regulatoire classificatie niet. De draft guidelines van de Commissie over high-risk classificatie, gepubliceerd in mei 2026, stellen dat een complex systeem opgebouwd uit meerdere AI-componenten, inclusief een agentic stack van orchestrators en sub-agents, als geheel wordt beoordeeld. Een orchestrator die sub-agents aanstuurt richting een high-risk beslissing is één high-risk systeem, en het volle gewicht van de high-risk verplichtingen van de Act hecht zich aan de stack, niet aan de onderdelen.
Dit is onderdeel van ons werk over agentic AI, de voorwaarde die verandert hoe alle zeven pijlerspijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry → van verantwoorde AIverantwoorde AIHet geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. De zeven principes worden geordend in een control-raamwerk van zeven pijlers, met één pijler per principe. Zie principe, pijler, governance.Open full entry → worden bestuurd.
Het architectuur-instinct dat faalt
Wanneer een team een agentic systeem ontwerpt, is de natuurlijke beweging decompositie. De ene agent haalt data op, een tweede redeneert erover, een derde stelt een actie op, een orchestratororchestratorDe agent die andere agents en tools coördineert richting een gezamenlijk doel. Het is het integratiepunt waar de verantwoording en classificatie op stackniveau zitten. Zie agentic stack, sub-agent.Open full entry → coördineert ze, en een laatste agent voert uit. Elk onderdeel oogt smal. Elk, op zichzelf genomen, lijkt iets procedureels en met lage inzet te doen. De verleidelijke conclusie is dat geen enkel onderdeel high-risk is, en dat het systeem als geheel dus aan het high-risk regime ontsnapt.
De draft guidelines van de Commissie sluiten die deur. Ze stellen dat waar meerdere AI-systemen deel uitmaken van een complexer systeem waarvan het gecombineerde doel of de gezamenlijke outputs een beslissing materieel beïnvloeden, de gecombineerde configuratie voor classificatiedoeleinden als één AI-systeemAI-systeemEen machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.Open full entry → wordt behandeld. Gesplitste architecturen worden als geheel beoordeeld, juist om te voorkomen dat classificatie via het ontwerp wordt omzeild. De guidelines breiden dit expliciet uit naar onderling verbonden en agentic systemen die gekoppelde acties coördineren waar die acties een high-risk doel dienen.
Wat dit in de praktijk betekent
De praktische implicatie is direct. Als je agentic stackagentic stackDe orchestrator, sub-agents en tools die samen een autonome workflow uitvoeren. Onder de EU AI Act wordt ze geclassificeerd en bestuurd als één systeem, niet als losse onderdelen. Zie orchestrator, sub-agent, AI-systeem.Open full entry →, van begin tot eind genomen, een beslissing materieel beïnvloedt die binnen een van de Annex III high-risk gebieden valt, werk, krediet, essentiële diensten, onderwijs, biometrie, kritieke infrastructuur, migratie, of rechtshandhaving, dan is de hele stack high-risk. De smalle scope van een individuele agent redt het niet. Zelfs een onderdeel dat slechts een voorbereidende of procedurele taak uitvoert kan als high-risk worden geclassificeerd waar het, als onderdeel van een agentic systeem, bijdraagt aan outputs die een Annex III use case materieel beïnvloeden.
Dit betekent dat de verplichtingen zich aan de stack als geheel hechten: een risicomanagementsysteem onder Artikel 9, data governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.Open full entry → onder Artikel 10, technische documentatietechnische documentatieRegistraties die een aanbieder voor een hoog-risico-AI-systeem moet samenstellen en bewaren om conformiteit aan te tonen, met dekking van het ontwerp, de data, het testen, het risicobeheer en de monitoring. Zie aanbieder, bewijs, model card.Open full entry → onder Artikel 11, registratie onder Artikel 12, transparantietransparantieOpenheid over het feit dát AI wordt gebruikt en hoe het in het algemeen werkt: openbaarmakingen, documentatie, kennisgevingen. Vormt een paar met uitlegbaarheid, die over individuele uitkomsten gaat. Zie uitlegbaarheid, principe.Open full entry → onder Artikel 13, menselijk toezichtmenselijk toezichtHet ingebouwde vermogen van een mens om een AI-systeem te monitoren, erin in te grijpen, het te overrulen of stil te leggen, alleen betekenisvol wanneer de mens de bevoegdheid, de informatie en de tijd heeft om te handelen. Zie principe, human-in-the-loop, human-on-the-loop.Open full entry → onder Artikel 14, nauwkeurigheid en robuustheidrobuustheidHet vermogen van een systeem om betrouwbaar te presteren onder realistische omstandigheden, inclusief ruis, randgevallen en tegenwerkende druk, de technische kern van het principe veiligheid en betrouwbaarheid. Zie beveiliging en robuustheid, principe.Open full entry → onder Artikel 15, en een conformiteitsbeoordelingconformiteitsbeoordelingHet proces vóór markttoelating waarmee wordt aangetoond dat een hoog-risico-AI-systeem voldoet aan de eisen van de EU AI Act, leidend tot CE-markering en registratie. Zie CE-markering, aangemelde instantie.Open full entry → voordat het systeem in de handel wordt gebracht of in gebruik wordt genomen.
De classificatie moet op stack-niveau gebeuren
Voor een AI Officer is het gevolg een verandering in hoe classificatie wordt uitgevoerd. Je kunt niet agent voor agent classificeren en de resultaten optellen. Je moet de stack identificeren, het gecombineerde beoogde doel definiëren, en het geheel classificeren tegen Annex III. Als de gecombineerde output een high-risk beslissing materieel beïnvloedt, valt de stack binnen de reikwijdte, en elke agent erbinnen erft de verplichtingen die volgen.
Dit betekent ook dat je AI-inventarisAI-inventarisEen register van alle AI-systemen die een organisatie bouwt, koopt of inbedt, met eigenaren en risicoklassen, de voorwaarde om er ook maar één te kunnen besturen. Zie risico, governance.Open full entry → agentic stacks als eenheden moet vastleggen, niet alleen individuele modellen. Een inventaris die vijf "low-risk" agents opsomt en mist dat ze samen één high-risk wervingssysteem vormen, is een inventaris die zijn meest significante blootstelling verkeerd heeft geclassificeerd.
Timing
De draft guidelines blijven in consultatie tot 23 juli 2026 en zijn niet-bindend, met gezaghebbende interpretatie die uiteindelijk bij het Hof van Justitie van de Europese Unie ligt. De ingangsdata voor de high-risk verplichtingen zijn verschoven onder de AI Omnibus, met regels voor aangewezen high-risk gebieden nu naar verwachting van toepassing vanaf december 2027 en productgeïntegreerde systemen vanaf augustus 2028. Die verlenging is geen reden om te wachten. Het classificeren van een agentic stack, het bouwen van de technische documentatie en het voorbereiden van een conformiteitsbeoordeling is achttien maanden werk voor een complexe inzet, en de interpretatieve positie die de guidelines uiteenzetten is de basislijn die toezichthouders zullen gebruiken. Leg de classificatie nu vast, documenteer die tegen de draft guidelines, en verfijn bij definitieve vaststelling.
De praktische stap
Neem elke agentic inzet in je inventaris. Teken de stack-grens: elke agent, orchestrator en tool die bijdraagt aan één gecombineerd doel. Definieer dat gecombineerde doel in de taal van Annex III. Classificeer het geheel. Waar de stack high-risk is, zijn de verplichtingen de standaard Hoofdstuk III-verplichtingen, en ze worden op stack-niveau belegd, met één aanspreekbare partij voor het geheel, niet verdeeld over de agents op een manier die de integratie onbestuurd laat.