Lexicon

Het AI-governance-lexicon

Heldere definities van de termen die terugkeren in de EU AI Act, de AVG en de raamwerken die AI reguleren. GovCompass gebruikt één consistente woordenschat in de kennisbank en de Academy.

A

aanbieder: De actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.
aangemelde instantie: Een onafhankelijke conformiteitsbeoordelingsorganisatie die is aangewezen om te verifiëren dat een hoog-risico-AI-systeem aan de AI Act voldoet voordat het op de markt komt. Zie conformiteitsbeoordeling.
accountability: Het principe dat een benoemde persoon verantwoordelijkheid draagt voor wat een AI-systeem doet. Het faalt structureel en niet door nalatigheid: de aanbieder bouwde het model, de gebruiksverantwoordelijke draait het, en beide gaan ervan uit dat de ander de plicht draagt, totdat er iets misgaat en "het systeem deed het" de feitelijke positie van de organisatie blijkt te zijn. De EU AI Act hangt verplichtingen aan de rol en niet aan de technologie, met plichten voor de aanbieder in artikel 16 en voor de gebruiksverantwoordelijke in artikel 26, ondersteund door technische documentatie (artikel 11) en record-keeping (artikel 12). Zie aanbieder, gebruiksverantwoordelijke, record-keeping, verantwoorde AI.
adversarial input: Een input die opzettelijk is samengesteld om een AI-systeem een verkeerde of schadelijke output te laten produceren, vaak via wijzigingen die een mens niet zou opmerken. Adversarial inputs zijn een kernaanvalstype onder de pijler beveiliging en robuustheid en een standaarddoelwit van testen vóór release. Zie red teaming, prompt injection.
afdwingpunt: De plek waar een regel wordt toegepast in code of configuratie in plaats van beschreven in tekst, zodat hem overtreden niet afhangt van de bereidheid van een systeem om zich eraan te houden. In toegangsbeheer is de tegenhanger het policy enforcement point. Voor een AI-agent zijn de kandidaten de tool, de policy engine, de permissies en de orchestration; de prompt hoort daar niet bij. Zie guardrail, policy engine, control objective.
agentic AI: Systemen waarin een model handelingen verricht, tools aanroept, plannen in meerdere stappen uitvoert, wat zowel de capaciteit als elke faalvorm versterkt; bestuurd met action-allowlists, goedkeuringen en volledige logging. Zie AI-agent, agentic governance.
agentic governance: Het besturen van de handelingen die een autonoom AI-systeem verricht, niet alleen de beslissingen die het neemt; ervoor zorgen dat die handelingen beheersbaar, herleidbaar en omkeerbaar zijn. Zie agentic AI, control.
agentic stack: De orchestrator, sub-agents en tools die samen een autonome workflow uitvoeren. Onder de EU AI Act wordt ze geclassificeerd en bestuurd als één systeem, niet als losse onderdelen. Zie orchestrator, sub-agent, AI-systeem.
AI governance: Governance uitgebreid voor AI: hetzelfde organisatiebrede besturen op het hoogste niveau, verbreed naar wat AI anders maakt (het werkt in waarschijnlijkheden in plaats van vaste regels, leert uit data, en kan handelen op een snelheid en schaal die geen menselijke beoordelaar bijhoudt). Het erft de bestaande governance-structuur en brengt AI binnen de disciplines die de organisatie al voert, in plaats van een parallel stelsel in een silo te bouwen. Het werkt op twee niveaus: inrichting en uitvoering. Zie governance, governance design, execution level, verantwoorde AI.
AI-agent: Een systeem dat zijn omgeving waarneemt, beslist en handelingen verricht richting een doel, tools aanroept, plannen uitvoert. Autonomie van handelen vereist allowlists, goedkeuringspoorten, sandboxing, logging en een kill switch. Zie agentic AI, kill switch.
AI-geletterdheid: Voldoende begrip van de werking, mogelijkheden en risico's van AI voor de eigen rol, een expliciete verwachting voor medewerkers van aanbieders en gebruiksverantwoordelijken onder de EU AI Act. Zie aanbieder, gebruiksverantwoordelijke.
AI-incident: Elke gebeurtenis waarbij de uitkomsten, handelingen of gegevensverwerking van een AI-systeem schade veroorzaakten of plausibel konden veroorzaken, of wezenlijk afweken van gevalideerd gedrag, inclusief schadelijke uitkomsten van een systeem dat technisch werkt. Zie ernstig incident, post-incident review.
AI-inventaris: Een register van alle AI-systemen die een organisatie bouwt, koopt of inbedt, met eigenaren en risicoklassen, de voorwaarde om er ook maar één te kunnen besturen. Zie risico, governance.
AI-levenscyclus: De fasen van een AI-systeem in een lus: ontwerp, data en ontwikkeling, validatie, uitrol, gebruik en monitoring, uitfasering, elk met eigen controls en bewaakte overgangen. Zie levenscyclus, ontmanteling.
AI-managementsysteem: De organisatiestructuur, het beleid en de processen om AI over de hele levenscyclus te besturen, zoals geformaliseerd in ISO/IEC 42001. Zie governance, levenscyclus.
AI-systeem: Een machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.
algoritme: De leerprocedure (bijvoorbeeld gradient descent, boominductie); ze op trainingsdata uitvoeren levert een model op. Controls hechten zich aan modellen en systemen, niet aan algoritmen in abstracte zin. Zie machine learning, trainingsdata.
artefact: Het concrete record dat bewijst dat een control is uitgevoerd: een testrapport, een impactassessment, een monitoringlog, een release-sign-off. Een artefact is de tastbare vorm die bewijs aanneemt, het ding waar een auditor naar grijpt om te bevestigen dat een control niet alleen is ontworpen maar ook echt heeft gewerkt. Elke fase van de AI-levenscyclus levert haar eigen anker-artefact op. Onderscheiden van bewijs als geheel: bewijs is het bewijsmateriaal, een artefact is er één stuk van. Zie bewijs, levenscyclus.
automation bias: De menselijke neiging om geautomatiseerde uitkomsten te veel te vertrouwen, een aanbeveling van een systeem aanvaarden zonder het geval echt te wegen, wat het menselijk toezicht uitholt. Zie menselijk toezicht.
autonomieniveau: De gedocumenteerde mate van autonomie die een uitgerolde agent is toegestaan, afgestemd op zijn aangetoonde betrouwbaarheid en de aanwezige controls; bewust verhoogd, niet standaard. Zie progressieve autonomie, beslissingsbevoegdheid.
AVG: Verordening (EU) 2016/679, de Algemene verordening gegevensbescherming (in het Engels: GDPR). De AVG geldt voor AI zodra persoonsgegevens de training, invoer, uitvoer of logs binnenkomen, en werkt naast de EU AI Act in plaats van erdoor te worden vervangen. Zie verwerkingsverantwoordelijke, verwerker, DPIA.

B

beslissingsbevoegdheid: Een dimensie van de autonomie van een agent: hoe ingrijpend de beslissingen zijn die hij mag nemen, van aanbevelen aan een mens tot beslissen en handelen zonder beoordeling. Zie autonomieniveau, verantwoordingsreikwijdte.
besluitenlogboek: De vastgelegde uitkomsten en redenering van governance-beslissingen (goedkeuringen van commissies, risicoaanvaardingen), wat precedent, consistentie en controleerbaarheid opbouwt. Zie bewijs, risicobereidheid.
betrokkenen: De individuen of groepen die onderworpen zijn aan of geraakt worden door de uitkomsten of beslissingen van een AI-systeem, en wier rechten het governance-regime beoogt te beschermen. Zie schade, belanghebbendenanalyse.
beveiliging en robuustheid: Het principe dat een AI-systeem aanvallen, manipulatie en tegenwerkende of onverwachte invoer weerstaat. De aanvalsvectoren omvatten data poisoning, modelextractie, membership inference en prompt injection; de controls zijn ML-beveiligingstesten en een geharde data- en modelpijplijn. Zie robuustheid, principe, control.
bewijs: Het concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.
bias: Een systematische scheefheid in data, modelgedrag of uitkomsten die de ene groep zonder rechtvaardiging anders behandelt dan de andere. Bias sluipt meestal binnen via trainingsdata die historische patronen weerspiegelen. Voor hoogrisico-AI-systemen vereist Artikel 10 van de EU AI Act onderzoek van datasets op mogelijke bias en maatregelen om die te detecteren, te voorkomen en te beperken. Zie eerlijkheid.
Bijlage III: De lijst van de EU AI Act met hoog-risico-toepassingsgebieden: biometrie, kritieke infrastructuur, onderwijs, werk, essentiële diensten, rechtshandhaving, migratie, justitie. Zie conformiteitsbeoordeling, conformiteitsverklaring.
bijzondere categorieën persoonsgegevens: Gegevens uit AVG-artikel 9: gezondheid, etniciteit, politieke opvattingen, religie, seksuele gerichtheid, biometrie voor identificatie, alleen op beperkte gronden verwerkbaar. Het afleiden van deze kenmerken creëert ze. Zie pseudonimisering, dataminimalisatie.
biometrische categorisering: Mensen in categorieën indelen zoals etniciteit of politieke opvattingen op basis van hun biometrische gegevens; onder de AI Act beperkt of verboden. Zie verboden praktijken, emotieherkenning.
black box: Informele naam voor een systeem waarvan de interne beslislogica niet kan worden ingezien of betekenisvol uitgelegd. Zie uitlegbaarheid.

C

CE-markering: De markering die op producten (waaronder hoog-risico-AI-systemen) wordt aangebracht en aangeeft dat ze voldoen aan de toepasselijke EU-eisen. Zie conformiteitsbeoordeling, conformiteitsverklaring.
complexiteit: Het governance-bemoeilijkende kenmerk waarbij risico schuilt in de interacties van veel componenten, leveranciers en omgevingen die niemand als geheel kan overzien, beantwoord met beoordeling op systeemniveau en end-to-end-testen. Zie risico, toeleveringsketen.
conformiteitsbeoordeling: Het proces vóór markttoelating waarmee wordt aangetoond dat een hoog-risico-AI-systeem voldoet aan de eisen van de EU AI Act, leidend tot CE-markering en registratie. Zie CE-markering, aangemelde instantie.
conformiteitsverklaring: De ondertekende verklaring van de aanbieder dat een hoog-risico-AI-systeem aan de eisen van de AI Act voldoet, opgesteld voordat het systeem op de markt wordt gebracht. Zie aanbieder, conformiteitsbeoordeling.
control: De concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.
control activity: De concrete handeling of systeemregel die een control objective bereikt, bijvoorbeeld een limietcheck in een betaaltool die bedragen boven een drempel weigert. Een register dat alleen objectives vastlegt, vult zich met uitspraken die niemand kan toetsen. Zie control objective, afdwingpunt.
control objective: Een uitspraak over de uitkomst die een control moet bereiken, bijvoorbeeld "ongeautoriseerde betalingen mogen technisch niet uitvoerbaar zijn". Het benoemt wat waar moet zijn in plaats van wat er gebouwd moet worden, waardoor meer dan één control activity eraan kan voldoen. Het objective gescheiden houden van de activity is wat een controlregister toetsbaar houdt. Zie control activity, afdwingpunt.

D

data poisoning: Een aanval die trainingsdata corrumpeert zodat het model door de aanvaller gekozen gedrag aanleert, een kernbedreiging uit de adversariële ML voor de datapijplijn. Zie beveiliging en robuustheid, trainingsdata.
dataminimalisatie: Alleen data verwerken die toereikend, ter zake dienend en noodzakelijk is, in ML uitgevoerd via pseudonimisering, kenmerkselectie, synthetische data en privacyverhogende technieken. Zie pseudonimisering, bijzondere categorieën persoonsgegevens.
datasheet: Een document dat de herkomst van een dataset vastlegt: de bronnen, de rechten waaronder ze wordt gebruikt, de samenstelling en de bekende beperkingen. Het anker-artefact van de fase data en ontwikkeling, het maakt de data achter een model herleidbaar en is een voorwaarde voor het beoordelen van risico's zoals bias. Zie artefact, levenscyclus.
deepfake: Door AI gegenereerde of gemanipuleerde audio, beeld of video die echte personen of gebeurtenissen overtuigend weergeeft die niet hebben plaatsgevonden; onderworpen aan etiketteringsplichten onder de transparantielaag van de EU AI Act. Zie generatieve AI, transparantie.
Digital Omnibus: Een wijzigingspakket van de EU dat delen van de EU AI Act aanpast, waaronder de toepassingsdata voor hoog-risicoverplichtingen. Per juli 2026 is het aangenomen door het Europees Parlement en de Raad en wacht het op publicatie in het Publicatieblad; verifieer de actuele status en data tegen de officiële tekst. Zie EU AI Act.
doorlopende monitoring: Het voortdurend observeren van de prestatie, drift, eerlijkheid en het gebruik van een uitgerold systeem tegen drempels met benoemde eigenaren, de control die past bij de snelheid en schaal van AI. Zie control, model drift.
downstream-aanbieder: Een aanbieder die een AI-systeem bouwt boven op het model van een andere partij, vaak een general-purpose model, en de verplichtingen op zich neemt voor het systeem dat hij levert. Zie aanbieder, general-purpose AI-model.
DPIA: Data Protection Impact Assessment, vereist vóór verwerking met waarschijnlijk hoog risico (systematische profilering met aanzienlijke gevolgen, grootschalige bijzondere categorieën, publieke monitoring); AI-ontwikkeling roept het voortdurend op. Zie impactassessment, profilering.
drift: Het geleidelijk afwijken van het gedrag of de prestaties van een AI-systeem van zijn gevalideerde staat na ingebruikname, zonder codewijziging of fout. Drift is van nature stil: er breekt niets, de nauwkeurigheid neemt gewoon af totdat iemand meet. De oorzaken zijn het onderscheiden waard: een verschuiving in de binnenkomende zakenmix, een wijziging in het bronmateriaal, een wijziging in omliggende systemen, of een update van het onderliggende model door de aanbieder. Zie model drift, agent drift.

E

eerlijkheid: Het principe van verantwoorde AI dat systemen geen onrechtvaardige discriminatie mogen creëren of versterken; geoperationaliseerd via bias-testen, representatieve data en drempels per groep, met meerdere, onderling onverenigbare wiskundige definities. Zie principe, representativiteit.
emotieherkenning: Een AI-systeem dat de emoties van een persoon afleidt uit biometrische gegevens; het gebruik ervan op de werkvloer en in het onderwijs is onder de AI Act beperkt. Zie biometrische categorisering, verboden praktijken.
ernstig incident: Een AI-incident dat de dood, ernstige schade aan gezondheid, eigendom, grondrechten of infrastructuur veroorzaakt (of bijna veroorzaakt), wat meldplichten aan toezichthouders activeert voor hoog-risicosystemen. Zie AI-incident, markttoezichtautoriteit.
escalatietrigger: Een regel die een handeling met grote gevolgen aan een mens overdraagt voordat ze wordt uitgevoerd. De correctieve control die menselijk toezicht betekenisvol houdt zodra beoordeling per handeling onmogelijk is. Zie menselijk toezicht, control-typen.
ethiekraad: Een beraadslagend orgaan (soms met externe leden) voor de zouden-we-vragen die compliance-checklists niet kunnen beantwoorden, ingezet waar de gevolgen dat rechtvaardigen. Zie verantwoorde AI.
EU AI Act: Verordening (EU) 2024/1689, in het Nederlands de AI-verordening, de Europese wet over artificiële intelligentie. Ze hanteert een risicogebaseerde aanpak: verboden praktijken, eisen voor hoogrisico-AI-systemen, transparantieverplichtingen voor specifieke toepassingen en een apart regime voor AI-modellen voor algemene doeleinden (general-purpose AI). Verplichtingen zijn verdeeld tussen aanbieders en gebruiksverantwoordelijken. Zie hoogrisico-AI-systeem, general-purpose AI, conformiteitsbeoordeling.
evaluation set: Een vaste verzameling testscenario's met vooraf bepaald gewenst gedrag, om het gedrag van een model of agent herhaalbaar te meten. Het is de agent-variant van een regressietest, en levert een score tegen een drempel op in plaats van goed of fout, omdat het gemeten gedrag probabilistisch is. Zie drift, override rate.

F

fairness: Het principe dat een AI-systeem geen groep systematisch benadeelt. Het breekt zelden openlijk: de gangbare routes zijn historische data die eerdere scheefheid meeneemt naar nieuwe beslissingen, en proxy-discriminatie, waarbij een model nooit een beschermd kenmerk ziet maar er een vervanger voor leert, zoals een postcode of een gat in een cv. Onder de EU AI Act moeten aanbieders van hoogrisico-AI-systemen hun datasets onderzoeken op mogelijke bias (artikel 10), en enkele discriminerende toepassingen zijn ronduit verboden (artikel 5). Zie bias, verantwoorde AI, hoogrisico-AI-systeem.
fine-tuning: Een bestaand model verder trainen op je eigen data om zijn gedrag aan te passen, wat jou verantwoordelijk maakt voor de wijziging, mogelijk tot op aanbiederniveau. Zie aanbieder, foundation model.
foundation model: Een model dat op grote schaal op brede data is getraind en kan worden aangepast aan veel afgeleide taken; in de terminologie van de EU AI Act een general-purpose AI-model genoemd. Zie general-purpose AI-model, frontier model.
FRIA: Fundamental Rights Impact Assessment, vereist van publieke organen en bepaalde private gebruiksverantwoordelijken voordat ze sommige hoog-risico-AI-systemen onder de EU AI Act gebruiken. Zie grondrechten-impactassessment, gebruiksverantwoordelijke.

G

geautomatiseerde besluitvorming: Beslissingen die uitsluitend op geautomatiseerde verwerking berusten en rechtsgevolgen of vergelijkbaar aanzienlijke gevolgen hebben, door AVG-artikel 22 beperkt tot drie uitzonderingsgronden, met waarborgen voor menselijke tussenkomst. Zie profilering, menselijk toezicht.
gebruiksverantwoordelijke: Een organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.
geharmoniseerde norm: Een Europese norm (in het Engels: harmonized standard) die op verzoek van de Europese Commissie is ontwikkeld. Onder Artikel 40 van de EU AI Act geeft naleving van geharmoniseerde normen die in het Publicatieblad zijn gepubliceerd een vermoeden van conformiteit met de eisen die die normen dekken. Geharmoniseerde normen voor de AI Act zijn nog in ontwikkeling. Zie conformiteitsbeoordeling, EU AI Act.
gemachtigde vertegenwoordiger: Een in de EU gevestigde persoon die schriftelijk door een aanbieder van buiten de EU is aangewezen om de verplichtingen van de aanbieder onder de AI Act uit te voeren. Zie aanbieder, AI-verplichtingen.
general-purpose AI: Een model dat op brede data is getraind en kan worden aangepast aan veel afgeleide taken; de AI Act stelt er specifieke verplichtingen voor, met extra plichten wanneer het systeemrisico oplevert. Zie general-purpose AI-model, systeemrisico.
generatieve AI: AI-systemen die nieuwe inhoud voortbrengen, tekst, beeld, audio, code, in plaats van alleen te classificeren of voorspellen. Grote taalmodellen zijn het bekendste voorbeeld. Zie hallucinatie, deepfake.
goal hijacking: Een aanval die het doel van een agent omleidt zodat hij een doel nastreeft dat jij niet hebt gesteld. Prompt injection gecombineerd met autonomie: het verandert wat de agent doet, niet alleen wat hij zegt. Zie prompt injection, agentic AI.
governance: Het stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.
governance design: Het ontwerpniveau van AI governance: beleid, rollen, organisatiestructuur en risicobereidheid. Governance design bepaalt de grenzen waarbinnen AI-systemen mogen opereren; het execution level toetst of de werkelijkheid daarbinnen blijft. Zie execution level, risicobereidheid.
governance-keten: De herleidbare lijn waarlangs een enkele pijler voor een enkel systeem wordt geborgd: principe, dan de schade die het zou schenden, dan het risico van die schade, dan de control die het risico vermindert (preventief, detectief of correctief), dan het restrisico geoordeeld tegen de risicobereidheid, bewezen met bewijs. De keten maakt verantwoorde AI verantwoordbaar in plaats van aspiratief, en stelt een organisatie in staat een principe van een beleidsuitspraak naar een werkende control te brengen die ze kan aanwijzen. Zie principe, schade, risico, control, restrisico, bewijs.
guardrail: Een barrière die ongewenst gedrag van een AI-systeem moet tegenhouden. Wat de waarde bepaalt, is waar hij leeft: een guardrail in de prompt is een verzoek dat het model verkeerd kan wegen of waaruit het kan worden gemanipuleerd, terwijl een guardrail in code of configuratie een afdwinging is. Het woord wordt in de markt ook gebruikt voor outputfilters, schemavalidatie, classifiers en policy engines, dus het benoemen van de laag doet ertoe. Zie afdwingpunt, policy engine, prompt injection.

H

hallucinatie: Vloeiende maar onjuiste inhoud die een generatief model voortbrengt, statistisch plausibele uitvoer die voor feit wordt aangezien. Een ontwerpeigenschap om te beheersen, geen fout om weg te patchen. Zie generatieve AI, uitlegbaarheid.
herbestemming: Een AI-systeem gebruiken voor een ander doel dan waarvoor het is gebouwd en beoordeeld, wat zijn risicoklasse en de geldende verplichtingen kan veranderen. Zie substantiële wijziging, AI-verplichtingen.
herkomst: De gedocumenteerde oorsprong en geschiedenis van data of inhoud, gebruikt om vast te stellen waar ze vandaan komt en of ze betrouwbaar of rechtmatig te gebruiken is. Zie trainingsdata, datasheet.
hoogrisico-AI-systeem: Een AI-systeem dat onder de strengste eisen van de EU AI Act valt, volgens artikel 6; de verordening spreekt van een AI-systeem met een hoog risico. Er zijn twee routes: een systeem dat een product of veiligheidscomponent is onder de harmonisatiewetgeving van bijlage I en een conformiteitsbeoordeling door derden vereist, of een systeem dat wordt gebruikt in een van de gebieden van bijlage III, zoals werving, onderwijs of toegang tot essentiële diensten. Artikel 6, lid 3, bevat een filter: een bijlage III-systeem is niet hoogrisico als het geen significant risico op schade voor de gezondheid, veiligheid of grondrechten inhoudt; een systeem dat natuurlijke personen profileert, is altijd hoogrisico. Zie EU AI Act, conformiteitsbeoordeling.
human oversight: Het ingebouwde vermogen van mensen om een AI-systeem te bewaken, in te grijpen, te overrulen of te stoppen. Het is alleen betekenisvol wanneer de mens bevoegdheid, informatie en tijd heeft om te handelen. Een van de zeven pijlers van verantwoorde AI, en onder de EU AI Act een eis aan hoogrisico-AI-systemen: artikel 14 vereist dat die systemen zo zijn ontworpen dat natuurlijke personen er effectief toezicht op kunnen houden. Toezicht dat op papier bestaat maar in de praktijk neerkomt op bevestigen, haalt die lat niet. Zie override rate, hoogrisico-AI-systeem, fairness, safety and reliability, privacy, security and robustness, transparency and explainability, accountability, verantwoorde AI.
human-centricity: Het principe dat AI mensen moet dienen, het oordeel versterken, autonomie en waardigheid respecteren, met toezicht en betwisting in verhouding tot de gevolgen. Zie principe, menselijk toezicht.
human-in-the-loop: Een toezichtsopstelling waarin een mens elk geval dat het systeem aanbeveelt goedkeurt of beslist, passend bij individuele beslissingen met grote gevolgen, en alleen betekenisvol met bevoegdheid, informatie en tijd. Zie menselijk toezicht, human-on-the-loop.
human-on-the-loop: Een toezichtsopstelling waarin mensen de werking monitoren en bij uitzondering ingrijpen, passend bij systemen met grote volumes waar beoordeling per geval onmogelijk is. Zie menselijk toezicht, human-in-the-loop.

I

IMDA Model AI Governance Framework for Agentic AI: Een governance-raamwerk voor agentic AI van de Singaporese Infocomm Media Development Authority, verschenen in januari 2026 en bijgewerkt in juni 2026. Het ontleedt agents in modellen, geheugen, tools en acties, en spreekt een voorkeur uit voor structurele en regelgebaseerde controls boven guardrails in de promptlaag. Het is guidance, geen wetgeving. Zie agentic AI, guardrail, least agency.
impactassessment: Een gestructureerde evaluatie, uitgevoerd in de fase plan en ontwerp, van de schades die een AI-systeem zou kunnen veroorzaken en het risico dat die schades dragen, voordat het systeem wordt gebouwd. De eerste plek waar de governance-keten wordt doorlopen, en het goedkoopste punt in de levenscyclus om risico te verminderen. Het anker-artefact van de ontwerpfase; onder de EU AI Act is een grondrechten-impactassessment vereist voor bepaalde hoog-risico-gebruiksverantwoordelijken. Zie schade, risico, levenscyclus.
inferentie: De fase waarin een getraind model uitvoer produceert op nieuwe invoer, in tegenstelling tot de trainingsfase waarin het zijn parameters leert. Zie machine learning, AI-systeem.
interne audit: De derde verdedigingslinie: onafhankelijke assurance dat AI-beoordelingen, controls en documentatie ook echt werken, rapporterend aan het bestuur, nooit aan de bouwers. Zie three lines of defense, bewijs.
ISO/IEC 23894: De internationale richtsnoernorm voor AI-risicobeheer, gepubliceerd in 2023. Ze past de algemene risicobeheerprincipes van ISO 31000 toe op AI en is richtsnoer, geen certificeerbare eisennorm. Ze vult het NIST AI RMF aan als risicomethode binnen een breder managementsysteem. Zie NIST AI RMF, ISO/IEC 42001.
ISO/IEC 42001: De internationale eisennorm voor AI-managementsystemen, gepubliceerd in 2023 en certificeerbaar. Ze definieert hoe een organisatie een managementsysteem voor AI opzet, implementeert, onderhoudt en continu verbetert. Certificering tegen ISO/IEC 42001 schept geen wettelijk vermoeden van conformiteit met de EU AI Act. Zie geharmoniseerde norm.

J

jailbreak: Een prompt of techniek die de veiligheidsmaatregelen van een AI-systeem omzeilt om het beperkte uitvoer te laten produceren. Zie prompt injection, red teaming.

L

least agency: Het principe uit het agentic security-werk van OWASP dat een agent de kleinste set capabilities en de minste autonomie krijgt die de taak vraagt. Toegepast op architectuurniveau is het een risicobesluit en geen technische voorkeur: minder autonomie laat meer van het proces afdwingbaar in code. Zie OWASP, agentic AI, afdwingpunt.
least-privilege: Elke agent alleen de toegang geven die zijn taak vereist, zonder gedeelde inloggegevens en met afgebakende, in de tijd begrensde rechten. Een kern-preventieve control voor agentic beveiliging. Zie tool misuse, agentic AI.
levenscyclus: De spanne van een enkel AI-systeem van eerste intake tot uitfasering, waarover het bestuurd moet worden. De horizontale as van governance: waar de governance-keten één principe borgt, voert de levenscyclus één systeem door de tijd. Doorgaans getekend als zes fasen, plan en ontwerp, data en ontwikkeling, verifieer en valideer, uitrol, gebruik en monitoring, en uitfasering, elk met controls die er eigen aan zijn en een anker-artefact. Een lus in plaats van een lijn, want een systeem in productie voert nieuw risico terug naar een verse beoordeling. Zie artefact, control, governance-keten.

M

machine learning: De dominante benadering van AI: algoritmen die beter worden in een taak door patronen uit data te leren in plaats van regels te volgen die een mens schreef. Zie algoritme, inferentie.
MCP: Een open standaard om AI-toepassingen op een uniforme manier te koppelen aan externe tools en gegevensbronnen. Voor governance is dit relevant omdat een tooldefinitie via een MCP-server proceskennis is die de agent leest: wie die definitie beheert, beïnvloedt het gedrag van de agent, waarmee toolbronnen van derden een supply chain-vraagstuk worden. Zie agentic AI.
memory poisoning: Het risico dat vervuilde, verouderde of bewust geplaatste informatie die een AI-agent onthoudt, doorwerkt in alle latere beslissingen. Het is achteraf lastig te herleiden, omdat de invloed niet zichtbaar is in de individuele zaak die misgaat, en daarom is wat een agent bewaart en hoe lang een ontwerpbeslissing en geen technisch detail. Zie agentic AI, drift.
menselijk toezicht: Het ingebouwde vermogen van een mens om een AI-systeem te monitoren, erin in te grijpen, het te overrulen of stil te leggen, alleen betekenisvol wanneer de mens de bevoegdheid, de informatie en de tijd heeft om te handelen. Zie principe, human-in-the-loop, human-on-the-loop.
model card: Een gestructureerd document dat een AI-model beschrijft: het doel, de trainingsdata, de prestatie onder verschillende omstandigheden, de beperkingen en het beoogde gebruik. Een kern-artefact van de uitrolfase, het stelt de mensen die een systeem bedienen en overzien in staat te begrijpen wat het doet en waar het niet vertrouwd mag worden. Onderdeel van de technische documentatie die een auditor verwacht voor een hoog-risicosysteem. Zie artefact, levenscyclus.
model drift: Achteruitgang van de modelprestatie naarmate de inzetomgeving wegdrijft van de trainingsverdeling; opgemerkt door monitoring, beantwoord met hervalidatie en hertraining. Zie doorlopende monitoring, robuustheid.

N

natuurlijke persoon: Een levend menselijk individu, in onderscheid van een rechtspersoon zoals een onderneming; de drager van rechten onder de gegevensbescherming en de AI Act. Zie betrokkenen, profilering.
NIST AI RMF: Het AI Risk Management Framework van het Amerikaanse National Institute of Standards and Technology, gepubliceerd als versie 1.0 in 2023. Het is een vrijwillig raamwerk rond vier functies: govern, map, measure en manage. In een gelaagde opzet dient het als risicomethode binnen een managementsysteem zoals ISO/IEC 42001. Zie ISO/IEC 42001, ISO/IEC 23894.

O

OESO-AI-principes: De intergouvernementele principes voor betrouwbare AI (in het Engels: OECD AI Principles), aangenomen door de OESO in 2019 en herzien in 2024. Ze stellen waardegedreven verwachtingen zoals transparantie, verantwoording en mensgerichte waarden, en hebben latere raamwerken en wetgeving gevormd. Zie verantwoorde AI.
orchestration: De vaste programmacode rond een AI-model die bepaalt welke stappen in welke volgorde lopen, wat verplicht is, en waar een mens betrokken is. Omdat het gewone software is, gedraagt het zich voorspelbaar en kan het afdwingbare controls dragen, en daarom hoort processtructuur daar en niet in prompttekst. Zie afdwingpunt, guardrail.
orchestrator: De agent die andere agents en tools coördineert richting een gezamenlijk doel. Het is het integratiepunt waar de verantwoording en classificatie op stackniveau zitten. Zie agentic stack, sub-agent.
override rate: Het aandeel voorstellen van een AI-systeem dat een menselijke beoordelaar wijzigt of afwijst, gebruikt als indicator of human oversight werkt. Een structurele nul is reden tot onderzoek en geen geruststelling, want het kan betekenen dat het systeem goed presteert of dat de beoordelaar is opgehouden met beoordelen. Het is een signaal, geen zelfstandige kwaliteitsmaat. Zie human oversight, automation bias.
OWASP: The Open Worldwide Application Security Project, een non-profitstichting die open securityrichtlijnen publiceert. Twee publicaties zijn relevant voor AI governance: de OWASP Top 10 for LLM Applications, met prompt injection als eerste vermelding, en de OWASP Top 10 for Agentic Applications, over de securityrisico's die specifiek zijn voor agents die tools gebruiken en zelfstandig handelen. Zie prompt injection, least agency, agentic AI.

P

pijler: Een principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.
policy engine: Een component die vastgelegde regels automatisch toepast op elke actie, bijvoorbeeld de eis dat betalingen boven een drempel aparte goedkeuring vragen. Omdat de regel buiten het model staat, kan het model hem niet negeren of wegredeneren. Die regels vastleggen als machineleesbare code, onder versiebeheer zoals andere productiecode, heet policy-as-code.
post-market monitoring: De plicht aan de aanbiederszijde om ervaring met systemen in gebruik systematisch te verzamelen en erop te handelen, de productregelgevingshelft van doorlopende monitoring. Zie doorlopende monitoring, aanbieder.
principe: Een van de zeven waarden van verantwoorde AI waaraan een bestuurd systeem zou moeten voldoen (eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, menselijk toezicht). Een principe is abstract: het benoemt een uitkomst, geen knop die je kunt omzetten. Het wordt bestuurbaar door de schade te benoemen die het zou schenden, het risico van die schade in te schatten, en controls tegen dat risico te plaatsen. Zo geborgd, wordt een principe een pijler. Zie pijler, schade, risico.
privacy: Het principe dat persoonsgegevens die een AI-systeem gebruikt of voortbrengt binnen het doel en de grondslag blijven waarvoor ze zijn verzameld. Drie routes veroorzaken de meeste problemen: persoonsgegevens in trainingsmateriaal dat daar nooit voor bedoeld was, modeloutput die reproduceert wat het model heeft onthouden, en purpose creep, waarbij een systeem dat voor één gebruik is gebouwd afglijdt naar een ander gebruik dat de oorspronkelijke grondslag niet dekte. De AVG regelt dit volledig, en de EU AI Act voegt data governance-plichten toe voor hoogrisicosystemen (artikel 10). Zie DPIA, verantwoorde AI.
procesautonomie: Een dimensie van de autonomie van een agent: hoeveel van een proces in meerdere stappen hij uitvoert zonder menselijk ijkpunt, van een enkele stap tot een end-to-end-workflow. Zie autonomieniveau, beslissingsbevoegdheid.
profilering: Geautomatiseerde verwerking van persoonsgegevens om aspecten van een persoon te beoordelen of voorspellen, zoals prestaties, gedrag of locatie, zoals gedefinieerd in de AVG. Zie geautomatiseerde besluitvorming, natuurlijke persoon.
progressieve autonomie: Een agent de minste autonomie geven die hem laat werken, en zijn reikwijdte pas verbreden naarmate bewijs van betrouwbaar gedrag zich opbouwt. Autonomie wordt verdiend, niet ingesteld. Zie autonomieniveau, over-reliance.
prompt injection: Tegenwerkende instructies de invoer van een generatief systeem binnensmokkelen (rechtstreeks of via opgehaalde inhoud) om het beoogde gedrag te overschrijven. Het heet indirect prompt injection wanneer de instructies via een tussenliggende bron binnenkomen, zoals een document, een e-mail of een webpagina, in plaats van via de gebruiker. Volledige scheiding van instructie en data bestaat niet binnen een taalmodel, dus weerbaarheid is een kwestie van schade begrenzen en detecteren in plaats van voorkomen. Zie goal hijacking, beveiliging en robuustheid.
proportionaliteit: Het gewicht van governance afstemmen op het risico van de use case, zware poorten voor grote gevolgen, lichte aanpak voor kleine, wat de controls geloofwaardig en nageleefd houdt. Zie risico, control.
pseudonimisering: Identificerende velden vervangen zodat data niet aan een persoon kan worden toegeschreven zonder afzonderlijke informatie, een minimalisatie- en beveiligingstechniek die data onder de AVG persoonsgegevens houdt. Zie dataminimalisatie.

R

record-keeping: De verplichting onder de EU AI Act dat hoogrisico-AI-systemen gebeurtenissen gedurende hun levensduur automatisch kunnen registreren, vastgelegd in Artikel 12. Gebruiksverantwoordelijken moeten de logs onder hun beheer bewaren voor een periode die past bij het doel van het systeem, ten minste zes maanden, onder Artikel 26, lid 6. Logs maken beslissingen achteraf reconstrueerbaar. Zie bewijs, menselijk toezicht.
red teaming: Tegenwerkend testen dat een AI-systeem bewust aftast op fouten, schadelijke uitkomsten of beveiligingszwaktes, vóór en na uitgave. Zie beveiliging en robuustheid, jailbreak.
regulatory sandbox: Een onder toezicht staande regeling van een toezichthouder waarmee organisaties een AI-systeem onder gecontroleerde omstandigheden kunnen testen vóór volledige uitrol. Zie markttoezichtautoriteit, conformiteitsbeoordeling.
release gate: Een beslispunt in de fase verifieer en valideer waar een systeem wordt getoetst aan gedefinieerde acceptatiedrempels en wordt afgetekend voordat het live kan gaan, door iemand met de bevoegdheid om te weigeren. Een preventieve control: een release gate die niemand kan weigeren is geen gate. Het anker-artefact ervan is de release-sign-off, die vastlegt wie de uitrol goedkeurde en op welke grond. Zie control, control-typen, levenscyclus.
representativiteit: Hoe goed de trainingsdata de populatie en de omstandigheden weerspiegelt die het systeem bij inzet zal tegenkomen, de kern van datakwaliteit voor AI in termen van geschiktheid voor het doel. Zie eerlijkheid, trainingsdata.
restrisico: Het risico dat overblijft nadat controls het hebben verminderd. Geen control brengt een risico tot nul terug, en niet elke control is zijn kosten waard, dus wordt er een bewuste afweging gemaakt: of de kosten van verdere control opwegen tegen de risicovermindering die het oplevert, en of het resterende risico aanvaardbaar is tegen de risicobereidheid van de organisatie. Dit is een afweging op inrichtingsniveau, waar de uitvoering terugrapporteert en governance het restrisico aanvaardt, om meer control vraagt, of de use case afwijst. EU AI Act Art. 9(5) vereist dat het per gevaar en in totaal aanvaardbaar wordt geoordeeld. Zie risico, control, risicobereidheid.
risico: In de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.
risicobereidheid: Het niveau van risico dat de leiding van een organisatie bereid is te aanvaarden in het nastreven van haar doelen, vastgesteld op het niveau van governance design. De maatstaf waartegen het restrisico aanvaardbaar wordt geoordeeld of niet. Geërfd uit de bredere governance van de organisatie en toegepast op AI. Een begrip uit enterprise risk management (COSO ERM) voordat het een AI-begrip is. Zie restrisico, governance design.
risicoregister: Het levende overzicht van de geïdentificeerde risico's van een AI-systeem, hun inschatting, respons, eigenaren en herzieningsdata, actueel gehouden van ontwerp tot uitfasering. Zie risico, control, governance-keten.
robuustheid: Het vermogen van een systeem om betrouwbaar te presteren onder realistische omstandigheden, inclusief ruis, randgevallen en tegenwerkende druk, de technische kern van het principe veiligheid en betrouwbaarheid. Zie beveiliging en robuustheid, principe.

S

schade: De concrete schade die een AI-systeem kan aanrichten en die een principe van verantwoorde AI beoogt te voorkomen: in de termen van de EU AI Act schade aan iemands gezondheid, veiligheid of grondrechten. Schade is de brug tussen een abstract principe en een bestuurbaar risico; governance wordt operationeel op het moment dat een organisatie de specifieke schades benoemt die ze wil voorkomen. Voor eerlijkheid is een schade dat een groep stelselmatig slechtere uitkomsten krijgt vanwege een kenmerk dat niet had mogen meetellen. Zie principe, risico.
shadow AI: AI-tools die door medewerkers of afdelingen buiten de officiële kanalen en governance worden aangeschaft, het voorspelbare product van processen die te zwaar of te traag zijn. Zie AI-inventaris, governance.
social scoring: Mensen in de tijd en over contexten heen beoordelen, met nadelige of onevenredige behandeling als gevolg, een verboden AI-praktijk in de EU. Zie verboden praktijken.
sub-agent: Een agent die door een andere agent of een orchestrator wordt aangeroepen om een deel van een taak uit te voeren. Zijn handelingen erven nog steeds de verplichtingen van de stack waartoe hij behoort. Zie orchestrator, agentic stack.
substantiële wijziging: Een verandering aan een uitgerold AI-systeem die zijn functie of doel wezenlijk wijzigt, in staat om de verplichtingen van de aanbieder naar de wijzigende partij te verschuiven. Zie aanbieder, AI-verplichtingen, herbestemming.
systeemrisico: Categorie van de EU AI Act voor de meest capabele general-purpose modellen (verondersteld boven een drempel van trainingsrekenkracht), wat extra plichten activeert: evaluaties, tegenwerkend testen, incidentmelding, cyberbeveiliging. Zie general-purpose AI-model, general-purpose AI.

T

technische documentatie: Registraties die een aanbieder voor een hoog-risico-AI-systeem moet samenstellen en bewaren om conformiteit aan te tonen, met dekking van het ontwerp, de data, het testen, het risicobeheer en de monitoring. Zie aanbieder, bewijs, model card.
toeleveringsketen: De gelaagde keten achter een AI-product, foundation models, datasets, labeldiensten, integrators, waarbij elke laag risico toevoegt dat de koper nooit rechtstreeks heeft gecontracteerd. Zie waardeketen, derdenrisico.
tool misuse: Een agent die een toegestane tool aanroept op een manier die een onbedoeld effect in de echte wereld oplevert. Tegengegaan met afgebakende tooltoegang en goedkeuringspoorten op aanroepen met grote gevolgen. Zie least-privilege, escalatietrigger.
trainingsdata: De data die wordt gebruikt om de parameters van een AI-model te passen; de kwaliteit, de rechtmatige rechten en de representativiteit ervan zijn centrale governance-zorgen. Zie representativiteit, herkomst, datasheet.
trainingsregistraties: Bewijs van wie welke versie van welke trainingsinhoud heeft afgerond, wanneer, met welk resultaat, het artefact dat training laat functioneren als een compliance-control. Zie AI-geletterdheid, bewijs.
transparantie: Openheid over het feit dát AI wordt gebruikt en hoe het in het algemeen werkt: openbaarmakingen, documentatie, kennisgevingen. Vormt een paar met uitlegbaarheid, die over individuele uitkomsten gaat. Zie uitlegbaarheid, principe.

U

uitlegbaarheid: Het vermogen om een betekenisvolle reden te geven voor een specifieke uitkomst van een AI-systeem aan de mensen die het raakt, te onderscheiden van transparantie, die de openbaarmaking is dát en hoe AI wordt gebruikt. Zie transparantie, principe.

V

verantwoorde AI: Het geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. De zeven principes worden geordend in een control-raamwerk van zeven pijlers, met één pijler per principe. Zie principe, pijler, governance.
verantwoording: Het principe dat een met naam genoemde mens of organisatie verantwoording aflegt voor de uitkomsten van een AI-systeem, via eigenaarschap, documentatie, audit trails en herstel, nooit het systeem zelf. Zie principe, bewijs.
verboden praktijken: AI-toepassingen die onder de AI Act ronduit verboden zijn, zoals social scoring, manipulatieve technieken en het ongericht schrapen van gezichtsbeelden. Zie social scoring, biometrische categorisering.
verwerkingsverantwoordelijke: Onder artikel 4, punt 7, AVG de partij (in het Engels: controller) die alleen of samen met anderen het doel van en de middelen voor de verwerking van persoonsgegevens vaststelt. De verwerkingsverantwoordelijke draagt de meeste AVG-verplichtingen, waaronder de plicht om elke verwerker contractueel te binden. In AI-projecten is de organisatie die beslist waarom en hoe persoonsgegevens voor training of gebruik worden ingezet doorgaans de verwerkingsverantwoordelijke. Zie verwerker, AVG.
volwassenheidsmodel: Een trapsgewijze beschrijving van governance-volwassenheid (ad hoc, herhaalbaar, gedefinieerd, beheerst, optimaliserend), gebruikt om aanbevelingen op de eerstvolgende haalbare trede te richten. Zie governance.

W

waardeketen: De reeks actoren van modelontwikkeling via levering tot uitrol en gebruik, waarlangs verantwoordelijkheden en AI Act-verplichtingen zich verplaatsen. Zie toeleveringsketen, AI-verplichtingen.
wijzigingsbeheer: De beheerste afhandeling van updates aan modellen, data en configuraties: elke wezenlijke wijziging doorloopt opnieuw validatie voordat ze opnieuw wordt uitgerold. Zie control, doorlopende monitoring.

Bekijk AI governance