De zeven pijlers van verantwoorde AI

AI-recruitmentsystemen beloven objectiviteit maar versterken in de praktijk historische bias, en vallen als hoog-risico onder Bijlage III. De deployer draagt een zwaar compliance-regime onder Art. 26, inclusief menselijk toezicht, monitoring en een FRIA, dat niet aan de leverancier kan worden gedelegeerd.

Een Fundamental Rights Impact Assessment (FRIA) onder Art. 27 voert u stap voor stap uit: beschrijf het systeem en zijn doel, identificeer de geraakte personen, beoordeel de impact per grondrechtendimensie, bepaal mitigerende maatregelen en documenteer het restrisico vóór ingebruikname.

Regulatory sandboxes onder Art. 57-61 zijn gecontroleerde omgevingen, onder toezicht van de nationale toezichthouder, waarin organisaties innovatieve AI-systemen kunnen ontwikkelen en testen met begeleiding en tijdelijke verlichting van bepaalde administratieve eisen, zonder dat de materiële waarborgen of de meldplicht bij incidenten vervallen.

Deelnemen aan een nationale AI regulatory sandbox onder Art. 57-61 verloopt via een gestructureerd pad: bereid een projectdossier voor, dien in tijdens een aanmeldwindow, teken een sandbox-overeenkomst met de toezichthouder, rapporteer voortgang en incidenten tijdens het testen, en lever een eindrapport op dat de basis legt voor volledige compliance.

De EU AI Act en de AVG zijn complementaire maar niet identieke kaders voor AI-systemen die persoonsgegevens verwerken. Ze overlappen op transparantie, datakwaliteit, geautomatiseerde besluitvorming en impactassessments (DPIA en FRIA), maar verschillen in reikwijdte, toezicht en sanctieregime. De efficiënte aanpak is integratie: één gecombineerde DPIA/FRIA en één set leverancierscontracten.

De OWASP Agentic Security Initiative Top 10 catalogiseert de beveiligingsrisico's die autonome AI introduceert. Het is geschreven voor security engineers, maar de risico's zijn governance-problemen, omdat ze beschrijven wat een agent kan worden gemaakt te doen in plaats van wat het kan worden gemaakt te zeggen. Dit artikel vertaalt het agentic aanvalsoppervlak naar de taal van controls die een AI Officer bezit, en mapt elk risico op de pijler van verantwoorde AI die het onder druk zet.

Kant-en-klare transparantie-templates helpen deployers om aan de EU AI Act-informatieplichten te voldoen: een chatbot-melding, een label voor AI-gegenereerde content, en een Art. 26(11)-kennisgeving voor personen die aan een hoog-risico systeem zijn onderworpen. De melding moet actief en begrijpelijk zijn op het moment van interactie.

Agentic AI heeft geen nieuw soort governance nodig. Autonomie vergroot de afstand tussen wat een systeem doet en wie ervoor accountable is, wat de bestaande governance-keten, control die naar risico traceert en vooruit naar bewijs, belangrijker maakt, niet minder. De acties zijn echt en soms onomkeerbaar, dus de inzet op elke control stijgt.

AI governance is geen parallelle structuur die naast enterprise risk management staat. Het hoort erin. De zeven pijlers van verantwoorde AI zijn de controlestructuur waarmee de organisatie elk AI-systeem bestuurt; enterprise risk management is de machine die het restrisico dat die controls overlaten doorvoert naar de risk appetite van de board, het risicoregister, en het assurance-plan. De praktische vraag is niet of je AI governance óf ERM moet bouwen, maar hoe je het eerste in het tweede schuift zodat één aanspreekbare structuur, niet twee concurrerende, het AI-risico bezit.

AI-certificering is geen enkelvoudige categorie. Er worden drie verschillende objecten beoordeeld, elk door een ander type beoordelaar: een persoon, het AI-managementsysteem van een organisatie, en een AI-systeem dat op de EU-markt wordt gebracht. De eerste twee kunnen worden gecertificeerd. Het derde valt onder een wettelijke conformiteitsbeoordeling, die op de ene route wel een certificaat oplevert en op de andere niet. Vaststellen welk object een certificaat dekt, is de eerste stap om te bepalen wat het waard is.

Compliance op control-niveau betekent voldoen aan de EU AI Act via ingebouwde, bewezen controls in plaats van beleidsdocumenten. De technische artikelen vertalen direct naar systeem-controls: onveranderlijke logs (Art. 12, 19), een noodstop (Art. 14(4)(e)), datamaskering vóór het model (Art. 10), configureerbare blokkeerbeleid (Art. 26), risicoscoring en incidentmelding binnen de termijn (Art. 9, 73), en workspace-isolatie met rolgebaseerde toegang (Art. 14, 26). Compliance op dit niveau is een geïnstrumenteerd systeem, geen beleid als PDF.

De AI Officer is de organisatiebrede regisseur van verantwoord AI-gebruik, breder dan een compliance-rol: de functie omvat AI-strategie, ethiek, risico en geletterdheid. De EU AI Act (Art. 26) maakt de coördinerende functie noodzakelijk, maar de behoefte aan een AI Officer reikt verder dan de wet zelf.

De controleomgeving van een AI-agent is het geheel van afgedwongen controls en governance-afspraken die de agent binnen afgesproken grenzen houden, en die omgeving rust op één onderscheid. Deterministische onderdelen, de orchestration, de checks binnen tools, de permissies en de policyregels, passen expliciet vastgelegde regels voorspelbaar toe en kunnen daarom afdwingbare controls dragen. Probabilistische onderdelen, alles wat door het taalmodel wordt geïnterpreteerd of besloten, zijn alleen te beïnvloeden en statistisch te beoordelen. Elke control uit het bedrijfsproces heeft daarom een afdwingpunt buiten het model nodig, en een control die alleen in prompttekst bestaat is een instructie, geen afgedwongen barrière.

De EU AI Act wijst verplichtingen toe vanuit de aanname dat de aanbieder die een systeem bouwt en de gebruiksverantwoordelijke die het gebruikt onderscheiden, stabiele rollen zijn. Agentic AI destabiliseert die aanname. Een gebruiksverantwoordelijke die een agent configureert met brede tool-rechten, autonome beslissingsruimte, of de mogelijkheid om sub-agents aan te maken, kan wijzigingen aanbrengen die substantieel genoeg zijn om aanbieder-niveau verplichtingen te dragen. Onder autonomie kan de vraag wie aanspreekbaar is niet uit het contract worden afgelezen. Die moet worden beoordeeld tegen wat de gebruiksverantwoordelijke de agent feitelijk heeft laten doen.

De OECD AI Principles zijn de eerste intergouvernementele standaard voor AI, aangenomen in mei 2019 en herzien in mei 2024, met 47 aangesloten jurisdicties waaronder de Europese Unie. Ze bestaan uit vijf waardengebaseerde principes voor AI-actoren en vijf aanbevelingen voor beleidsmakers. Ze zijn geen wet, niet certificeerbaar en geen managementsysteem: ze zijn het gedeelde referentiepunt waarop de AI-verordening, nationale AI-strategieën en internationale raamwerken voortbouwen. Het OECD-classificatieraamwerk voor AI-systemen, gepubliceerd in 2022, is het praktische instrument dat ze operationaliseert.

Of u onder de EU AI Act deployer of provider bent bepaalt welke verplichtingen en boetes gelden, dus stel dat per systeem als eerste vast. Een deployer gebruikt een systeem onder eigen gezag; een provider brengt het onder eigen naam op de markt, en u wordt provider, met de zwaardere plichten, zodra u een systeem substantieel wijzigt of herlabelt (Art. 25).

De meeste organisaties kunnen hun AI-agents tot in detail beschrijven: de architectuur, de tools, het geheugen, het basismodel, de benchmarks, de interne veiligheidstests. Wat veel minder organisaties kunnen, is besturen wat die agents beslissen zodra ze draaien. Documentatie beantwoordt de vraag "wat is deze agent en wat kan het?" Governance beantwoordt een moeilijkere: "kunnen we de beslissingen die het neemt over de tijd vertrouwen?" De twee worden routinematig verward, en een agent die grondig is gedocumenteerd maar onbestuurd is, is precies het soort systeem dat elke beoordeling doorstaat en vervolgens in productie faalt.

Voor het mkb is EU AI Act-compliance behapbaar maar niet optioneel: de Art. 5-verboden en de Art. 4-geletterdheid gelden ongeacht de omvang, en mkb-gebruiksverantwoordelijken van hoogrisico-AI dragen de volledige Art. 26-verplichtingen in proportionele vorm. Micro-ondernemingen krijgen administratieve vereenvoudigingen, geen vrijstellingen.

De EU AI Act, ISO/IEC 42001 en het NIST AI RMF beantwoorden verschillende vragen en zijn bedoeld om samen te worden gebruikt. De AI Act stelt wettelijke verplichtingen voor AI-systemen die op de EU-markt worden gebracht. ISO/IEC 42001 specificeert eisen voor een AI-managementsysteem dat een organisatie kan certificeren. Het NIST AI RMF biedt vrijwillige risicomanagementuitkomsten en -acties, en stelt expliciet dat de functies ervan geen checklist zijn en geen verplichte volgorde kennen. Dit artikel legt uit hoe u ze samen gebruikt zonder ze samen te voegen tot een nieuw framework.

De governance-keten borgt één principe; de AI-levenscyclus is de andere as van het model, tijd. Een systeem wordt bestuurd over een leven van de eerste intake-beslissing tot de dag dat het wordt uitgezet, in zes fasen: plan en ontwerp, data en ontwikkeling, verifieer en valideer, uitrol, gebruik en monitoring, en uitfasering. Elke fase heeft controls die er eigen aan zijn en levert een anker-artefact op, en de twee assen ontmoeten elkaar bij bewijs. De fase die het vaakst faalt is gebruik en monitoring.

Het NIST AI RMF, ISO/IEC 42001 en de OECD AI Principles zijn complementair, niet concurrerend: een vrijwillig risicomanagementproces, een certificeerbaar managementsysteem, en een waardenbasis. Geen ervan vervangt de wettelijke verplichtingen van de EU AI Act; ze helpen die te operationaliseren.

Het NIST AI Risk Management Framework is een vrijwillig raamwerk voor het identificeren, beoordelen en behandelen van AI-risico, gepubliceerd door het Amerikaanse National Institute of Standards and Technology in januari 2023. Het ordent het werk in vier functies: govern, map, measure en manage. Het is een methode, geen wettelijke eis en geen certificeerbare norm: geen organisatie kan zich ertegen laten certificeren, en het volgen ervan levert geen vermoeden van conformiteit met de AI-verordening op. De waarde zit in het risicovocabulaire en het werkproces dat het binnen een managementsysteem levert.

Een AI-agent kent uw bedrijfsproces via zes bouwblokken: het model zelf, de systeeminstructie, opgehaalde kennis (RAG), de tooldefinities, de orchestration en het geheugen. Elk bouwblok is een ontwerpkeuze over wat waar leeft en hoeveel het model beslist, en elke keuze bepaalt welke risico's het proces draagt en hoe de controleomgeving eruit moet zien.

ISO/IEC 42001:2023 is de eerste internationale managementsysteemnorm voor artificiële intelligentie, gepubliceerd in december 2023. De norm stelt eisen aan het opzetten, implementeren, onderhouden en continu verbeteren van een AI-managementsysteem, en is certificeerbaar: een geaccrediteerde instelling kan een organisatie ertegen auditen en een certificaat afgeven. Het certificaat dekt het managementsysteem, niet enig afzonderlijk AI-systeem, en het levert geen vermoeden van conformiteit met de AI-verordening op.

Onder de EU AI Act ontwikkelt een provider een AI-systeem of brengt het onder eigen naam op de markt; een deployer gebruikt een AI-systeem onder zijn gezag in een professionele context. De rollen dragen heel verschillende verplichtingen: providers dragen de zware technische plichten (Art. 9-15, 19, 43, 48, 49, 72), terwijl deployers een lichtere operationele set dragen (Art. 26, 27). Dezelfde organisatie kan beide tegelijk zijn, en je rol per systeem bepalen is de eerste compliance-stap.

Het beoordelen van het risico van een AI-agent vraagt geen aparte methode. De stappen blijven gelijk: herken het risico, beoordeel hoe waarschijnlijk en hoe ernstig het is voor uw systeem, en beheers het. Wat verandert, is de invoer. Een agent voert het proces uit via vastgelegde architectuurkeuzes over het model, de instructie, opgehaalde kennis, tools, de orchestration, het geheugen en de autonomie, en elk van die keuzes schept, alleen of in combinatie, de mogelijkheid van schade. De uitkomst van de analyse is een set risicoscenario's met per scenario een control objective.

De meeste organisaties gebruiken veel meer AI dan de directie in kaart heeft, vaak stil ingeschakeld in de SaaS-tools die al in gebruik zijn. Je kunt niet besturen wat je niet hebt geïnventariseerd, dus de eerste governance-stap is altijd dezelfde: bouw een AI-inventaris, classificeer en stuur van daaruit bij.

Verantwoorde AI is het geheel van principes waaraan een AI-systeem zou moeten voldoen; AI governance is het stelsel dat die principes waarmaakt en bewijst. Het ene is hoe goed eruitziet, het andere is hoe je het werkelijk maakt en aantoont dat je het deed. Verantwoorde AI is het doel; governance is hoe je er komt en het bewijst.

Onder de EU AI Act splitst het opdelen van een autonome workflow over meerdere agents de regulatoire classificatie niet. De draft guidelines van de Commissie over high-risk classificatie, gepubliceerd in mei 2026, stellen dat een complex systeem opgebouwd uit meerdere AI-componenten, inclusief een agentic stack van orchestrators en sub-agents, als geheel wordt beoordeeld. Een orchestrator die sub-agents aanstuurt richting een high-risk beslissing is één high-risk systeem, en het volle gewicht van de high-risk verplichtingen van de Act hecht zich aan de stack, niet aan de onderdelen.

AI risk management is de praktijk van weten welke risico's uw AI-systemen dragen en die binnen grenzen houden die u bewust hebt gekozen. De risico's zijn niet abstract: elk van de zeven pijlers van verantwoorde AI kent concrete manieren waarop hij in de praktijk faalt, van een model dat stilletjes één groep benadeelt tot een systeem waarvan de nauwkeurigheid na livegang wegzakt. Ze beheersen volgt één herhaalbaar patroon: herken het risico, beoordeel hoe waarschijnlijk en hoe ernstig het is voor uw systeem, en beheers het met maatregelen die u kunt testen.

Een AI-beleid vertaalt de Art. 26-verplichtingen van de EU AI Act naar een werkbaar intern kader. Een EU AI Act-conform beleid bevat ten minste de scope, het Art. 5-verbod, de governance-rollen, het classificatieproces, menselijk toezicht, monitoring en logretentie, transparantie en incidentrespons.

De EU AI Act-verplichtingen per afdeling hangen af van de risicoklasse van het AI-systeem. HR-selectie en kredietscoring zijn hoog-risico (Bijlage III) met de volledige Art. 26-verplichtingen; marketing-AI en chatbots vallen meestal onder de transparantieverplichting van Art. 50. Per systeem bepaalt een Art. 6-analyse de exacte verplichting.

Een audit trail voor EU AI Act-compliance is het gestructureerde, bewaarde dossier, de combinatie van de systeemlogs (Art. 12) en de eigen toezicht- en monitoringdocumentatie van de deployer, waarmee u aan een toezichthouder kunt aantonen dat een hoog-risico AI-systeem rechtmatig is ingezet.

De eerste stappen naar EU AI Act-compliance voor gebruiksverantwoordelijken zijn: bouw een AI-inventaris, classificeer elk systeem tegen Art. 6, vraag de aanbiedersdocumentatie op, start AI-geletterdheidstraining onder Art. 4, en beleg het eigenaarschap. Deze stappen leggen het fundament voor de Art. 26-verplichtingen.

Wie een GPAI-model (zoals GPT-4, Claude of Gemini) via een API integreert, is doorgaans provider van de eigen toepassing én deployer van het GPAI-model. De sleutelvraag is of de toepassing zelf hoog-risico is (Bijlage III): zo ja, gelden de provider-verplichtingen (Art. 8-15) plus de deployer-plichten van Art. 26.

Of een AI-systeem hoogrisico is, bepaalt Art. 6: het is hoogrisico als het een veiligheidscomponent is onder bijlage I of onder een gebruiksgeval van bijlage III valt (zoals werving, krediet of essentiële diensten). De uitzondering van Art. 6, lid 3 kan gelden waar het systeem alleen een beperkte, niet-beslissende taak vervult.

Een leveranciers-checklist voor AI-inkoop verifieert wat een provider moet leveren voordat u als deployer kunt voldoen: de gebruiksinstructies (Art. 13.3), de conformiteitsverklaring, de risicoclassificatie, de notificatie bij updates, en medewerking bij een toezichtsonderzoek.

Een mkb-bedrijf dat zelf een hoog-risico AI-systeem ontwikkelt, draagt de volledige provider-verplichtingen van Art. 8-17 EU AI Act: risicobeheer (Art. 9), datakwaliteit (Art. 10), technische documentatie (Art. 11), logging (Art. 12), transparantie (Art. 13), menselijk toezicht (Art. 14), nauwkeurigheid (Art. 15) en een kwaliteitsmanagementsysteem (Art. 17). Micro-ondernemingen mogen een vereenvoudigd formaat gebruiken.

Micro-ondernemingen (minder dan 10 medewerkers en maximaal €2 miljoen omzet) hebben onder de EU AI Act recht op vereenvoudigde provider-verplichtingen, zoals beknopte technische documentatie (Art. 11.3) en een proportioneel kwaliteitsbeleid (Art. 17.3). De materiële verplichtingen, zoals het Art. 5-verbod, menselijk toezicht en incidentmelding, blijven onverkort gelden.

AI governance is het stelsel waarmee een organisatie verantwoord gebruikmaakt van haar AI en dat kan aantonen. Het is geen ethiekverklaring of eenmalig project maar een operationele discipline die loopt over de volledige levensduur van elk AI-systeem dat de organisatie bouwt, koopt of inbedt, en die elk principe van verantwoorde AI langs een keten draagt: van de schade die het zou schenden, via het risico en de control die het vermindert, tot het bewijs dat de control werkt.

Agentic AI is AI die op eigen houtje een keten van acties uitvoert in plaats van één uitvoer te produceren die een mens beoordeelt. Die verschuiving voegt geen nieuw principe van verantwoorde AI toe; ze verandert hoe elk bestaand principe beheerst moet worden. Het menselijke checkpoint verschuift van binnen elke beslissing naar rondom het hele systeem: de grenzen bepalen waarbinnen de agent opereert, de keten bewaken terwijl ze loopt, en het vermogen behouden om in te grijpen.

AI-agents beantwoorden niet alleen vragen, ze ondernemen acties in uw systemen, wat zowel de waarde als elke faalwijze versterkt. Ze besturen betekent de acties besturen, niet alleen de beslissingen: action-allowlists, goedkeuringspoorten voor acties met grote gevolgen, volledige logging, en een kill switch.

Menselijk toezicht betekent dat AI mensen dient in plaats van hun oordeel te vervangen. Het houdt een competent persoon betekenisvol in controle over een AI-systeem, met de bevoegdheid en de informatie om in te grijpen, en het houdt die controle in verhouding tot wat er op het spel staat. De diepere gedachte erachter is human-centricity: AI moet het menselijk oordeel ondersteunen, autonomie en waardigheid respecteren, en aanspreekbaar blijven jegens de mensen die het raakt, niet alleen jegens de mensen die het gebruiken. De praktische kern is het kiezen van het juiste toezichtpatroon voor de inzet, want toezicht dat te licht is vangt geen schade en toezicht dat te zwaar is schaalt niet.

De veiligste manier om een agent in te zetten is om het de minste autonomie te geven die het zijn werk laat doen, en die autonomie pas te verbreden naarmate bewijs van betrouwbaar gedrag zich opbouwt. Progressieve autonomie is voor agentic governance wat de drie controlelagen zijn voor de zeven pijlers van verantwoorde AI: de operationele discipline die een pijler in een praktijk verandert. Dit artikel zet een volwassenheidsmodel uiteen voor agent-inzet langs drie dimensies, beslissingsbevoegdheid, procesautonomie, en verantwoordelijkheidsreikwijdte, en de controls die op elk niveau aanwezig moeten zijn.

Een oversight-logboek is het gelijktijdige verslag dat menselijk toezicht op een hoog-risico AI-systeem aantoont onder Art. 26.2 van de EU AI Act. Het legt per toezichtmoment vast wie de AI-output beoordeelde, wat de beslissing was en waarom, en moet minimaal zes maanden worden bewaard onder Art. 26.6.