De grens tussen aanbieder en gebruiksverantwoordelijke breekt onder autonomie

Dit is onderdeel van het element Agentic AI van de GovCompass-7.

Hoe de Act verantwoordelijkheid verdeelt

De EU AI Act bouwt zijn verplichtingen op een rolonderscheid. De aanbieder ontwikkelt een AI-systeem of laat het ontwikkelen en brengt het onder eigen naam in de handel. De gebruiksverantwoordelijke gebruikt een AI-systeem onder zijn gezag. Aanbieders dragen de zwaardere verplichtingen: conformiteitsbeoordeling, technische documentatie, het kwaliteitsmanagementsysteem. Gebruiksverantwoordelijken dragen een lichtere maar reële set: zorgen voor menselijk toezicht, de werking monitoren, het systeem gebruiken conform de instructies.

De Act kent ook een regel voor wanneer een gebruiksverantwoordelijke een aanbieder wordt. Een gebruiksverantwoordelijke die een substantiële wijziging aanbrengt in een high-risk systeem, of die zijn naam op het systeem zet, of die het beoogde doel verandert, neemt aanbieder-verplichtingen op zich. In klassieke inzet wordt deze regel zelden geactiveerd, omdat gebruiksverantwoordelijken systemen ongeveer gebruiken zoals geleverd.

Waarom agentische configuratie dit verandert

Agentische systemen worden geconfigureerd, niet slechts gebruikt. De gebruiksverantwoordelijke van een agent-platform bepaalt welke tools de agent kan aanroepen, hoeveel autonomie het heeft, binnen welke beslissingsruimte het opereert, of het sub-agents kan aanmaken, en welke acties het kan ondernemen zonder menselijke goedkeuring. Dit zijn geen randinstellingen. Het zijn de keuzes die bepalen wat het systeem in de wereld doet.

Dit is waar de grens breekt. Een gebruiksverantwoordelijke die een agent brede tool-rechten en autonome ruimte over een high-risk beslissing verleent, kan het gedrag en risicoprofiel van het systeem substantieel genoeg hebben veranderd dat hij, in functionele termen, een nieuw high-risk systeem vormgeeft. De tekst van de Act is geschreven voor een wereld waarin de gebruiksverantwoordelijke een afgewerkt product ontving. Agentische configuratie geeft de gebruiksverantwoordelijke een set knoppen die het doel en risico van het systeem kunnen wijzigen, en het wijzigen van doel en risico is precies wat een gebruiksverantwoordelijke in aanbieder-territorium doet kantelen.

De Commissie is expliciet geweest dat haar positie over AI-agents voorlopig is en dat meer specifieke guidance waarschijnlijk volgt. Het structurele probleem dat zij heeft geïdentificeerd is dat de Act ervan uitgaat dat rollen stabiel zijn, en in agentische systemen zijn ze dat niet. Een entiteit die een systeem ontwerpt en exploiteert waarin AI-systemen andere AI-systemen aansturen, aanroepen of inperken, past niet schoon in het aanbieder- of het gebruiksverantwoordelijke-hokje.

Wat een AI Officer nu zou moeten doen

De praktische respons is om agentische configuratie te behandelen als een governance-beslissing met classificatiegevolgen, niet als een technische instelling. Documenteer voor elke agent die je organisatie inzet de configuratiekeuzes die op autonomie van invloed zijn: tool-toegang, beslissingsruimte, het aanmaken van sub-agents, en de acties die zonder menselijke goedkeuring zijn toegestaan. Beoordeel vervolgens, tegen de substantiële-wijziging- en beoogd-doel-toetsen van de Act, of die keuzes je organisatie richting aanbieder-verplichtingen duwen.

Waar de beoordeling op het randje is, is de conservatieve positie om aanbieder-niveau verantwoordelijkheid aan te nemen en de bijbehorende documentatie te bouwen, omdat de kosten van een verkeerde inschatting bestaan uit het dragen van aanbieder-verplichtingen waaraan je niet hebt voldaan. Waar je een agent-platform van een leverancier betrekt, moet het contract expliciet maken welke partij onder welke configuraties aanbieder-verplichtingen draagt, want de standaardverdeling geschreven voor niet-agentische systemen zal niet schoon passen op wat je feitelijk inzet.

Het diepere punt

Verantwoordelijkheid is een van de zeven GovCompass-elementen, en agentic AIagentic AISystems where a model takes actions — calling tools, executing multi-step plans — amplifying both capability and every failure mode; governed with action allowlists, approvals and full logging.Open full entry → is waar het het zwaarst wordt getoetst. Het rolmodel van de Act is een proxy voor een eenvoudiger vraag: wanneer dit systeem een actie onderneemt die iemand schaadt, wie is dan aanspreekbaar? In een geconfigureerd, autonoom, multi-agent systeem kan het eerlijke antwoord niet worden doorgeschoven naar een contractclausule geschreven voor een ander soort technologie. Het moet bewust worden vastgesteld, voor inzet, door de organisatie die besloot hoeveel de agent mag doen.