De grens tussen aanbieder en gebruiksverantwoordelijke breekt onder autonomie

Dit is onderdeel van het element Agentic AI van de GovCompass-7.

Hoe de Act verantwoordelijkheid verdeelt

De EU AI Act bouwt zijn verplichtingen op een rolonderscheid. De aanbiederaanbiederDe actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.Open full entry → ontwikkelt een AI-systeemAI-systeemEen machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.Open full entry → of laat het ontwikkelen en brengt het onder eigen naam in de handel. De gebruiksverantwoordelijkegebruiksverantwoordelijkeEen organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.Open full entry → gebruikt een AI-systeem onder zijn gezag. Aanbieders dragen de zwaardere verplichtingen: conformiteitsbeoordelingconformiteitsbeoordelingHet proces vóór markttoelating waarmee wordt aangetoond dat een hoog-risico-AI-systeem voldoet aan de eisen van de EU AI Act, leidend tot CE-markering en registratie. Zie CE-markering, aangemelde instantie.Open full entry →, technische documentatietechnische documentatieRegistraties die een aanbieder voor een hoog-risico-AI-systeem moet samenstellen en bewaren om conformiteit aan te tonen, met dekking van het ontwerp, de data, het testen, het risicobeheer en de monitoring. Zie aanbieder, bewijs, model card.Open full entry →, het kwaliteitsmanagementsysteem. Gebruiksverantwoordelijken dragen een lichtere maar reële set: zorgen voor menselijk toezichtmenselijk toezichtHet ingebouwde vermogen van een mens om een AI-systeem te monitoren, erin in te grijpen, het te overrulen of stil te leggen, alleen betekenisvol wanneer de mens de bevoegdheid, de informatie en de tijd heeft om te handelen. Zie principe, human-in-the-loop, human-on-the-loop.Open full entry →, de werking monitoren, het systeem gebruiken conform de instructies.

De Act kent ook een regel voor wanneer een gebruiksverantwoordelijke een aanbieder wordt. Een gebruiksverantwoordelijke die een substantiële wijzigingsubstantiële wijzigingEen verandering aan een uitgerold AI-systeem die zijn functie of doel wezenlijk wijzigt, in staat om de verplichtingen van de aanbieder naar de wijzigende partij te verschuiven. Zie aanbieder, AI-verplichtingen, herbestemming.Open full entry → aanbrengt in een high-risk systeem, of die zijn naam op het systeem zet, of die het beoogde doel verandert, neemt aanbieder-verplichtingen op zich. In klassieke inzet wordt deze regel zelden geactiveerd, omdat gebruiksverantwoordelijken systemen ongeveer gebruiken zoals geleverd.

Waarom agentische configuratie dit verandert

Agentische systemen worden geconfigureerd, niet slechts gebruikt. De gebruiksverantwoordelijke van een agent-platform bepaalt welke tools de agent kan aanroepen, hoeveel autonomie het heeft, binnen welke beslissingsruimte het opereert, of het sub-agents kan aanmaken, en welke acties het kan ondernemen zonder menselijke goedkeuring. Dit zijn geen randinstellingen. Het zijn de keuzes die bepalen wat het systeem in de wereld doet.

Dit is waar de grens breekt. Een gebruiksverantwoordelijke die een agent brede tool-rechten en autonome ruimte over een high-risk beslissing verleent, kan het gedrag en risicoprofiel van het systeem substantieel genoeg hebben veranderd dat hij, in functionele termen, een nieuw high-risk systeem vormgeeft. De tekst van de Act is geschreven voor een wereld waarin de gebruiksverantwoordelijke een afgewerkt product ontving. Agentische configuratie geeft de gebruiksverantwoordelijke een set knoppen die het doel en risicorisicoIn de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.Open full entry → van het systeem kunnen wijzigen, en het wijzigen van doel en risico is precies wat een gebruiksverantwoordelijke in aanbieder-territorium doet kantelen.

De Commissie is expliciet geweest dat haar positie over AI-agents voorlopig is en dat meer specifieke guidance waarschijnlijk volgt. Het structurele probleem dat zij heeft geïdentificeerd is dat de Act ervan uitgaat dat rollen stabiel zijn, en in agentische systemen zijn ze dat niet. Een entiteit die een systeem ontwerpt en exploiteert waarin AI-systemen andere AI-systemen aansturen, aanroepen of inperken, past niet schoon in het aanbieder- of het gebruiksverantwoordelijke-hokje.

Wat een AI Officer nu zou moeten doen

De praktische respons is om agentische configuratie te behandelen als een governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, executie.Open full entry →-beslissing met classificatiegevolgen, niet als een technische instelling. Documenteer voor elke agent die je organisatie inzet de configuratiekeuzes die op autonomie van invloed zijn: tool-toegang, beslissingsruimte, het aanmaken van sub-agents, en de acties die zonder menselijke goedkeuring zijn toegestaan. Beoordeel vervolgens, tegen de substantiële-wijziging- en beoogd-doel-toetsen van de Act, of die keuzes je organisatie richting aanbieder-verplichtingen duwen.

Waar de beoordeling op het randje is, is de conservatieve positie om aanbieder-niveau verantwoordelijkheid aan te nemen en de bijbehorende documentatie te bouwen, omdat de kosten van een verkeerde inschatting bestaan uit het dragen van aanbieder-verplichtingen waaraan je niet hebt voldaan. Waar je een agent-platform van een leverancier betrekt, moet het contract expliciet maken welke partij onder welke configuraties aanbieder-verplichtingen draagt, want de standaardverdeling geschreven voor niet-agentische systemen zal niet schoon passen op wat je feitelijk inzet.

Het diepere punt

Verantwoordelijkheid is een van de zeven GovCompass-pijlers, en agentic AI is waar het het zwaarst wordt getoetst. Het rolmodel van de Act is een proxy voor een eenvoudiger vraag: wanneer dit systeem een actie onderneemt die iemand schaadt, wie is dan aanspreekbaar? In een geconfigureerd, autonoom, multi-agent systeem kan het eerlijke antwoord niet worden doorgeschoven naar een contractclausule geschreven voor een ander soort technologie. Het moet bewust worden vastgesteld, voor inzet, door de organisatie die besloot hoeveel de agent mag doen.