De grens tussen aanbieder en gebruiksverantwoordelijke breekt onder autonomie

Dit is onderdeel van ons werk over agentic AI, de voorwaarde die verandert hoe alle zeven pijlerspijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry → van verantwoorde AIverantwoorde AIHet geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. De zeven principes worden geordend in een control-raamwerk van zeven pijlers, met één pijler per principe. Zie principe, pijler, governance.Open full entry → worden bestuurd.

Hoe de Act verantwoordelijkheid verdeelt

De EU AI ActEU AI ActVerordening (EU) 2024/1689, in het Nederlands de AI-verordening, de Europese wet over artificiële intelligentie. Ze hanteert een risicogebaseerde aanpak: verboden praktijken, eisen voor hoogrisico-AI-systemen, transparantieverplichtingen voor specifieke toepassingen en een apart regime voor AI-modellen voor algemene doeleinden (general-purpose AI). Verplichtingen zijn verdeeld tussen aanbieders en gebruiksverantwoordelijken. Zie hoogrisico-AI-systeem, general-purpose AI, conformiteitsbeoordeling.Open full entry → bouwt zijn verplichtingen op een rolonderscheid. De aanbiederaanbiederDe actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.Open full entry → ontwikkelt een AI-systeemAI-systeemEen machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.Open full entry → of laat het ontwikkelen en brengt het onder eigen naam in de handel. De gebruiksverantwoordelijkegebruiksverantwoordelijkeEen organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.Open full entry → gebruikt een AI-systeem onder zijn gezag. Aanbieders dragen de zwaardere verplichtingen: conformiteitsbeoordelingconformiteitsbeoordelingHet proces vóór markttoelating waarmee wordt aangetoond dat een hoog-risico-AI-systeem voldoet aan de eisen van de EU AI Act, leidend tot CE-markering en registratie. Zie CE-markering, aangemelde instantie.Open full entry →, technische documentatietechnische documentatieRegistraties die een aanbieder voor een hoog-risico-AI-systeem moet samenstellen en bewaren om conformiteit aan te tonen, met dekking van het ontwerp, de data, het testen, het risicobeheer en de monitoring. Zie aanbieder, bewijs, model card.Open full entry →, het kwaliteitsmanagementsysteem. Gebruiksverantwoordelijken dragen een lichtere maar reële set: zorgen voor menselijk toezichtmenselijk toezichtHet ingebouwde vermogen van een mens om een AI-systeem te monitoren, erin in te grijpen, het te overrulen of stil te leggen, alleen betekenisvol wanneer de mens de bevoegdheid, de informatie en de tijd heeft om te handelen. Zie principe, human-in-the-loop, human-on-the-loop.Open full entry →, de werking monitoren, het systeem gebruiken conform de instructies.

De Act kent ook een regel voor wanneer een gebruiksverantwoordelijke een aanbieder wordt. Een gebruiksverantwoordelijke die een substantiële wijzigingsubstantiële wijzigingEen verandering aan een uitgerold AI-systeem die zijn functie of doel wezenlijk wijzigt, in staat om de verplichtingen van de aanbieder naar de wijzigende partij te verschuiven. Zie aanbieder, AI-verplichtingen, herbestemming.Open full entry → aanbrengt in een high-risk systeem, of die zijn naam op het systeem zet, of die het beoogde doel verandert, neemt aanbieder-verplichtingen op zich. In klassieke inzet wordt deze regel zelden geactiveerd, omdat gebruiksverantwoordelijken systemen ongeveer gebruiken zoals geleverd.

Waarom agentic configuratie dit verandert

Agentic systemen worden geconfigureerd, niet slechts gebruikt. De gebruiksverantwoordelijke van een agent-platform bepaalt welke tools de agent kan aanroepen, hoeveel autonomie het heeft, binnen welke beslissingsruimte het opereert, of het sub-agentssub-agentEen agent die door een andere agent of een orchestrator wordt aangeroepen om een deel van een taak uit te voeren. Zijn handelingen erven nog steeds de verplichtingen van de stack waartoe hij behoort. Zie orchestrator, agentic stack.Open full entry → kan aanmaken, en welke acties het kan ondernemen zonder menselijke goedkeuring. Dit zijn geen randinstellingen. Het zijn de keuzes die bepalen wat het systeem in de wereld doet.

Dit is waar de grens breekt. Een gebruiksverantwoordelijke die een agent brede tool-rechten en autonome ruimte over een high-risk beslissing verleent, kan het gedrag en risicoprofiel van het systeem substantieel genoeg hebben veranderd dat hij, in functionele termen, een nieuw high-risk systeem vormgeeft. De tekst van de Act is geschreven voor een wereld waarin de gebruiksverantwoordelijke een afgewerkt product ontving. Agentic configuratie geeft de gebruiksverantwoordelijke een set knoppen die het doel en risicorisicoIn de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.Open full entry → van het systeem kunnen wijzigen, en het wijzigen van doel en risico is precies wat een gebruiksverantwoordelijke in aanbieder-territorium doet kantelen.

De Commissie is expliciet geweest dat haar positie over AI-agentsAI-agentEen systeem dat zijn omgeving waarneemt, beslist en handelingen verricht richting een doel, tools aanroept, plannen uitvoert. Autonomie van handelen vereist allowlists, goedkeuringspoorten, sandboxing, logging en een kill switch. Zie agentic AI, kill switch.Open full entry → voorlopig is en dat meer specifieke guidance waarschijnlijk volgt. Het structurele probleem dat zij heeft geïdentificeerd is dat de Act ervan uitgaat dat rollen stabiel zijn, en in agentic systemen zijn ze dat niet. Een entiteit die een systeem ontwerpt en exploiteert waarin AI-systemen andere AI-systemen aansturen, aanroepen of inperken, past niet schoon in het aanbieder- of het gebruiksverantwoordelijke-hokje.

Wat een AI Officer nu zou moeten doen

De praktische respons is om agentic configuratie te behandelen als een governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.Open full entry →-beslissing met classificatiegevolgen, niet als een technische instelling. Documenteer voor elke agent die je organisatie inzet de configuratiekeuzes die op autonomie van invloed zijn: tool-toegang, beslissingsruimte, het aanmaken van sub-agents, en de acties die zonder menselijke goedkeuring zijn toegestaan. Beoordeel vervolgens, tegen de substantiële-wijziging- en beoogd-doel-toetsen van de Act, of die keuzes je organisatie richting aanbieder-verplichtingen duwen.

Waar de beoordeling op het randje is, is de conservatieve positie om aanbieder-niveau verantwoordelijkheid aan te nemen en de bijbehorende documentatie te bouwen, omdat de kosten van een verkeerde inschatting bestaan uit het dragen van aanbieder-verplichtingen waaraan je niet hebt voldaan. Waar je een agent-platform van een leverancier betrekt, moet het contract expliciet maken welke partij onder welke configuraties aanbieder-verplichtingen draagt, want de standaardverdeling geschreven voor niet-agentic systemen zal niet schoon passen op wat je feitelijk inzet.

Het diepere punt

Verantwoordelijkheid is een van de zeven pijlers van verantwoorde AI, en agentic AIagentic AISystemen waarin een model handelingen verricht, tools aanroept, plannen in meerdere stappen uitvoert, wat zowel de capaciteit als elke faalvorm versterkt; bestuurd met action-allowlists, goedkeuringen en volledige logging. Zie AI-agent, agentic governance.Open full entry → is waar het het zwaarst wordt getoetst. Het rolmodel van de Act is een proxy voor een eenvoudiger vraag: wanneer dit systeem een actie onderneemt die iemand schaadt, wie is dan aanspreekbaar? In een geconfigureerd, autonoom, multi-agent systeem kan het eerlijke antwoord niet worden doorgeschoven naar een contractclausule geschreven voor een ander soort technologie. Het moet bewust worden vastgesteld, voor inzet, door de organisatie die besloot hoeveel de agent mag doen.