Lexicon

Het AI-governance-lexicon

Heldere definities van de termen die terugkeren in de EU AI Act, de AVG en de raamwerken die AI reguleren. GovCompass gebruikt één consistente woordenschat in de kennisbank en de Academy.

A

aanbieder: De actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.
aangemelde instantie: Een onafhankelijke conformiteitsbeoordelingsorganisatie die is aangewezen om te verifiëren dat een hoog-risico-AI-systeem aan de AI Act voldoet voordat het op de markt komt. Zie conformiteitsbeoordeling.
agent drift: Het geleidelijk afwijken van het gedrag van een agent van zijn verwachte bandbreedte in de tijd, aan het licht gebracht door gedragsmonitoring en driftdetectie over de hele keten. Zie agentische AI, doorlopende monitoring.
agentische AI: Systemen waarin een model handelingen verricht, tools aanroept, plannen in meerdere stappen uitvoert, wat zowel de capaciteit als elke faalvorm versterkt; bestuurd met action-allowlists, goedkeuringen en volledige logging. Zie AI-agent, agentische governance.
agentische governance: Het besturen van de handelingen die een autonoom AI-systeem verricht, niet alleen de beslissingen die het neemt; ervoor zorgen dat die handelingen beheersbaar, herleidbaar en omkeerbaar zijn. Zie agentische AI, control.
agentische stack: De orchestrator, sub-agents en tools die samen een autonome workflow uitvoeren. Onder de EU AI Act wordt ze geclassificeerd en bestuurd als één systeem, niet als losse onderdelen. Zie orchestrator, sub-agent, AI-systeem.
AI governance: Governance uitgebreid voor AI: hetzelfde organisatiebrede besturen op het hoogste niveau, verbreed naar wat AI anders maakt (het werkt in waarschijnlijkheden in plaats van vaste regels, leert uit data, en kan handelen op een snelheid en schaal die geen menselijke beoordelaar bijhoudt). Het erft de bestaande governance-structuur en brengt AI binnen de disciplines die de organisatie al voert, in plaats van een parallel stelsel in een silo te bouwen. Het werkt op twee niveaus: inrichting en uitvoering. Zie governance, governance design, executie, verantwoorde AI.
AI-agent: Een systeem dat zijn omgeving waarneemt, beslist en handelingen verricht richting een doel, tools aanroept, plannen uitvoert. Autonomie van handelen vereist allowlists, goedkeuringspoorten, sandboxing, logging en een kill switch. Zie agentische AI, kill switch.
AI-geletterdheid: Voldoende begrip van de werking, mogelijkheden en risico's van AI voor de eigen rol, een expliciete verwachting voor medewerkers van aanbieders en gebruiksverantwoordelijken onder de EU AI Act. Zie aanbieder, gebruiksverantwoordelijke.
AI-incident: Elke gebeurtenis waarbij de uitkomsten, handelingen of gegevensverwerking van een AI-systeem schade veroorzaakten of plausibel konden veroorzaken, of wezenlijk afweken van gevalideerd gedrag, inclusief schadelijke uitkomsten van een systeem dat technisch werkt. Zie ernstig incident, post-incident review.
AI-inventaris: Een register van alle AI-systemen die een organisatie bouwt, koopt of inbedt, met eigenaren en risicoklassen, de voorwaarde om er ook maar één te kunnen besturen. Zie risico, governance.
AI-levenscyclus: De fasen van een AI-systeem in een lus: ontwerp, data en ontwikkeling, validatie, uitrol, gebruik en monitoring, uitfasering, elk met eigen controls en bewaakte overgangen. Zie levenscyclus, ontmanteling.
AI-managementsysteem: De organisatiestructuur, het beleid en de processen om AI over de hele levenscyclus te besturen, zoals geformaliseerd in ISO/IEC 42001. Zie governance, levenscyclus.
AI-systeem: Een machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.
algoritme: De leerprocedure (bijvoorbeeld gradient descent, boominductie); ze op trainingsdata uitvoeren levert een model op. Controls hechten zich aan modellen en systemen, niet aan algoritmen in abstracte zin. Zie machine learning, trainingsdata.
artefact: Het concrete record dat bewijst dat een control is uitgevoerd: een testrapport, een impactassessment, een monitoringlog, een release-sign-off. Een artefact is de tastbare vorm die bewijs aanneemt, het ding waar een auditor naar grijpt om te bevestigen dat een control niet alleen is ontworpen maar ook echt heeft gewerkt. Elke fase van de AI-levenscyclus levert haar eigen anker-artefact op. Onderscheiden van bewijs als geheel: bewijs is het bewijsmateriaal, een artefact is er één stuk van. Zie bewijs, levenscyclus.
automation bias: De menselijke neiging om geautomatiseerde uitkomsten te veel te vertrouwen, een aanbeveling van een systeem aanvaarden zonder het geval echt te wegen, wat het menselijk toezicht uitholt. Zie menselijk toezicht.
autonomieniveau: De gedocumenteerde mate van autonomie die een uitgerolde agent is toegestaan, afgestemd op zijn aangetoonde betrouwbaarheid en de aanwezige controls; bewust verhoogd, niet standaard. Zie progressieve autonomie, beslissingsbevoegdheid.

B

beslissingsbevoegdheid: Een dimensie van de autonomie van een agent: hoe ingrijpend de beslissingen zijn die hij mag nemen, van aanbevelen aan een mens tot beslissen en handelen zonder beoordeling. Zie autonomieniveau, verantwoordingsreikwijdte.
besluitenlogboek: De vastgelegde uitkomsten en redenering van governance-beslissingen (goedkeuringen van commissies, risicoaanvaardingen), wat precedent, consistentie en controleerbaarheid opbouwt. Zie bewijs, risicobereidheid.
betrokkenen: De individuen of groepen die onderworpen zijn aan of geraakt worden door de uitkomsten of beslissingen van een AI-systeem, en wier rechten het governance-regime beoogt te beschermen. Zie schade, belanghebbendenanalyse.
beveiliging en robuustheid: Het principe dat een AI-systeem aanvallen, manipulatie en tegenwerkende of onverwachte invoer weerstaat. De aanvalsvectoren omvatten data poisoning, modelextractie, membership inference en prompt injection; de controls zijn ML-beveiligingstesten en een geharde data- en modelpijplijn. Zie robuustheid, principe, control.
bewijs: Het concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.
Bijlage III: De lijst van de EU AI Act met hoog-risico-toepassingsgebieden: biometrie, kritieke infrastructuur, onderwijs, werk, essentiële diensten, rechtshandhaving, migratie, justitie. Zie conformiteitsbeoordeling, conformiteitsverklaring.
bijzondere categorieën persoonsgegevens: Gegevens uit AVG-artikel 9: gezondheid, etniciteit, politieke opvattingen, religie, seksuele gerichtheid, biometrie voor identificatie, alleen op beperkte gronden verwerkbaar. Het afleiden van deze kenmerken creëert ze. Zie pseudonimisering, dataminimalisatie.
biometrische categorisering: Mensen in categorieën indelen zoals etniciteit of politieke opvattingen op basis van hun biometrische gegevens; onder de AI Act beperkt of verboden. Zie verboden praktijken, emotieherkenning.
black box: Informele naam voor een systeem waarvan de interne beslislogica niet kan worden ingezien of betekenisvol uitgelegd. Zie uitlegbaarheid.

C

CE-markering: De markering die op producten (waaronder hoog-risico-AI-systemen) wordt aangebracht en aangeeft dat ze voldoen aan de toepasselijke EU-eisen. Zie conformiteitsbeoordeling, conformiteitsverklaring.
complexiteit: Het governance-bemoeilijkende kenmerk waarbij risico schuilt in de interacties van veel componenten, leveranciers en omgevingen die niemand als geheel kan overzien, beantwoord met beoordeling op systeemniveau en end-to-end-testen. Zie risico, toeleveringsketen.
conformiteitsbeoordeling: Het proces vóór markttoelating waarmee wordt aangetoond dat een hoog-risico-AI-systeem voldoet aan de eisen van de EU AI Act, leidend tot CE-markering en registratie. Zie CE-markering, aangemelde instantie.
conformiteitsverklaring: De ondertekende verklaring van de aanbieder dat een hoog-risico-AI-systeem aan de eisen van de AI Act voldoet, opgesteld voordat het systeem op de markt wordt gebracht. Zie aanbieder, conformiteitsbeoordeling.
control: De concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.
control-typen: De drie manieren waarop een control kan werken, het onderscheid dat elke auditor herkent. Preventieve controls voorkomen de schade voordat ze kan optreden, bijvoorbeeld door een handeling te weigeren die het systeem niet mag verrichten. Detectieve controls leggen een falen bloot zodra het optreedt, via testen, loggen en monitoren. Correctieve controls beperken de schade en voeren de les terug naar preventie, via escalatie, ingrijpen en incidentafhandeling. Een preventieve control alleen is zelden genoeg; een sterk programma laat alle drie aan het werk zien voor de risico's die ertoe doen. Zie control.

D

dataminimalisatie: Alleen data verwerken die toereikend, ter zake dienend en noodzakelijk is, in ML uitgevoerd via pseudonimisering, kenmerkselectie, synthetische data en privacyverhogende technieken. Zie pseudonimisering, bijzondere categorieën persoonsgegevens.
datasheet: Een document dat de herkomst van een dataset vastlegt: de bronnen, de rechten waaronder ze wordt gebruikt, de samenstelling en de bekende beperkingen. Het anker-artefact van de fase data en ontwikkeling, het maakt de data achter een model herleidbaar en is een voorwaarde voor het beoordelen van risico's zoals bias. Zie artefact, levenscyclus.
deepfake: Door AI gegenereerde of gemanipuleerde audio, beeld of video die echte personen of gebeurtenissen overtuigend weergeeft die niet hebben plaatsgevonden; onderworpen aan etiketteringsplichten onder de transparantielaag van de EU AI Act. Zie generatieve AI, transparantie.
doorlopende monitoring: Het voortdurend observeren van de prestatie, drift, eerlijkheid en het gebruik van een uitgerold systeem tegen drempels met benoemde eigenaren, de control die past bij de snelheid en schaal van AI. Zie control, model drift.
downstream-aanbieder: Een aanbieder die een AI-systeem bouwt boven op het model van een andere partij, vaak een general-purpose model, en de verplichtingen op zich neemt voor het systeem dat hij levert. Zie aanbieder, general-purpose AI-model.
DPIA: Data Protection Impact Assessment, vereist vóór verwerking met waarschijnlijk hoog risico (systematische profilering met aanzienlijke gevolgen, grootschalige bijzondere categorieën, publieke monitoring); AI-ontwikkeling roept het voortdurend op. Zie impactassessment, profilering.

E

eerlijkheid: Het principe van verantwoorde AI dat systemen geen onrechtvaardige discriminatie mogen creëren of versterken; geoperationaliseerd via bias-testen, representatieve data en drempels per groep, met meerdere, onderling onverenigbare wiskundige definities. Zie principe, representativiteit.
emotieherkenning: Een AI-systeem dat de emoties van een persoon afleidt uit biometrische gegevens; het gebruik ervan op de werkvloer en in het onderwijs is onder de AI Act beperkt. Zie biometrische categorisering, verboden praktijken.
ernstig incident: Een AI-incident dat de dood, ernstige schade aan gezondheid, eigendom, grondrechten of infrastructuur veroorzaakt (of bijna veroorzaakt), wat meldplichten aan toezichthouders activeert voor hoog-risicosystemen. Zie AI-incident, markttoezichtautoriteit.
escalatietrigger: Een regel die een handeling met grote gevolgen aan een mens overdraagt voordat ze wordt uitgevoerd. De correctieve control die menselijk toezicht betekenisvol houdt zodra beoordeling per handeling onmogelijk is. Zie menselijk toezicht, control-typen.
ethiekraad: Een beraadslagend orgaan (soms met externe leden) voor de zouden-we-vragen die compliance-checklists niet kunnen beantwoorden, ingezet waar de gevolgen dat rechtvaardigen. Zie verantwoorde AI.

F

fine-tuning: Een bestaand model verder trainen op je eigen data om zijn gedrag aan te passen, wat jou verantwoordelijk maakt voor de wijziging, mogelijk tot op aanbiederniveau. Zie aanbieder, foundation model.
foundation model: Een model dat op grote schaal op brede data is getraind en kan worden aangepast aan veel afgeleide taken; in de terminologie van de EU AI Act een general-purpose AI-model genoemd. Zie general-purpose AI-model, frontier model.
FRIA: Fundamental Rights Impact Assessment, vereist van publieke organen en bepaalde private gebruiksverantwoordelijken voordat ze sommige hoog-risico-AI-systemen onder de EU AI Act gebruiken. Zie grondrechten-impactassessment, gebruiksverantwoordelijke.

G

geautomatiseerde besluitvorming: Beslissingen die uitsluitend op geautomatiseerde verwerking berusten en rechtsgevolgen of vergelijkbaar aanzienlijke gevolgen hebben, door AVG-artikel 22 beperkt tot drie uitzonderingsgronden, met waarborgen voor menselijke tussenkomst. Zie profilering, menselijk toezicht.
gebruiksverantwoordelijke: Een organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.
gemachtigde vertegenwoordiger: Een in de EU gevestigde persoon die schriftelijk door een aanbieder van buiten de EU is aangewezen om de verplichtingen van de aanbieder onder de AI Act uit te voeren. Zie aanbieder, AI-verplichtingen.
generatieve AI: AI-systemen die nieuwe inhoud voortbrengen, tekst, beeld, audio, code, in plaats van alleen te classificeren of voorspellen. Grote taalmodellen zijn het bekendste voorbeeld. Zie hallucinatie, deepfake.
goal hijacking: Een aanval die het doel van een agent omleidt zodat hij een doel nastreeft dat jij niet hebt gesteld. Prompt injection gecombineerd met autonomie: het verandert wat de agent doet, niet alleen wat hij zegt. Zie prompt injection, agentische AI.
governance: Het stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, executie.
governance-keten: De herleidbare lijn waarlangs een enkele pijler voor een enkel systeem wordt geborgd: principe, dan de schade die het zou schenden, dan het risico van die schade, dan de control die het risico vermindert (preventief, detectief of correctief), dan het restrisico geoordeeld tegen de risicobereidheid, bewezen met bewijs. De keten maakt verantwoorde AI verantwoordbaar in plaats van aspiratief, en stelt een organisatie in staat een principe van een beleidsuitspraak naar een werkende control te brengen die ze kan aanwijzen. Zie principe, schade, risico, control, restrisico, bewijs.

H

hallucinatie: Vloeiende maar onjuiste inhoud die een generatief model voortbrengt, statistisch plausibele uitvoer die voor feit wordt aangezien. Een ontwerpeigenschap om te beheersen, geen fout om weg te patchen. Zie generatieve AI, uitlegbaarheid.
herbestemming: Een AI-systeem gebruiken voor een ander doel dan waarvoor het is gebouwd en beoordeeld, wat zijn risicoklasse en de geldende verplichtingen kan veranderen. Zie substantiële wijziging, AI-verplichtingen.
herkomst: De gedocumenteerde oorsprong en geschiedenis van data of inhoud, gebruikt om vast te stellen waar ze vandaan komt en of ze betrouwbaar of rechtmatig te gebruiken is. Zie trainingsdata, datasheet.
human-centricity: Het principe dat AI mensen moet dienen, het oordeel versterken, autonomie en waardigheid respecteren, met toezicht en betwisting in verhouding tot de gevolgen. Zie principe, menselijk toezicht.
human-in-the-loop: Een toezichtsopstelling waarin een mens elk geval dat het systeem aanbeveelt goedkeurt of beslist, passend bij individuele beslissingen met grote gevolgen, en alleen betekenisvol met bevoegdheid, informatie en tijd. Zie menselijk toezicht, human-on-the-loop.
human-on-the-loop: Een toezichtsopstelling waarin mensen de werking monitoren en bij uitzondering ingrijpen, passend bij systemen met grote volumes waar beoordeling per geval onmogelijk is. Zie menselijk toezicht, human-in-the-loop.

I

impactassessment: Een gestructureerde evaluatie, uitgevoerd in de fase plan en ontwerp, van de schades die een AI-systeem zou kunnen veroorzaken en het risico dat die schades dragen, voordat het systeem wordt gebouwd. De eerste plek waar de governance-keten wordt doorlopen, en het goedkoopste punt in de levenscyclus om risico te verminderen. Het anker-artefact van de ontwerpfase; onder de EU AI Act is een grondrechten-impactassessment vereist voor bepaalde hoog-risico-gebruiksverantwoordelijken. Zie schade, risico, levenscyclus.
inferentie: De fase waarin een getraind model uitvoer produceert op nieuwe invoer, in tegenstelling tot de trainingsfase waarin het zijn parameters leert. Zie machine learning, AI-systeem.
integrerend element: Agentische AI, het integrerend element van het GovCompass-raamwerk: geen achtste pijler maar het element in het midden dat de zeven bindt. Wanneer een systeem stopt met het produceren van uitkomsten die een mens beoordeelt en zelf gaat handelen, verandert het menselijke ijkpunt van aard en moet elk principe doorlopend standhouden over een aaneengesloten reeks handelingen. Agentische AI verandert daarmee hoe elk principe moet worden geïmplementeerd, in plaats van een eigen principe toe te voegen. Zie pijler, agentische AI.
interne audit: De derde verdedigingslinie: onafhankelijke assurance dat AI-beoordelingen, controls en documentatie ook echt werken, rapporterend aan het bestuur, nooit aan de bouwers. Zie three lines of defense, bewijs.

J

jailbreak: Een prompt of techniek die de veiligheidsmaatregelen van een AI-systeem omzeilt om het beperkte uitvoer te laten produceren. Zie prompt injection, red teaming.

L

least-privilege: Elke agent alleen de toegang geven die zijn taak vereist, zonder gedeelde inloggegevens en met afgebakende, in de tijd begrensde rechten. Een kern-preventieve control voor agentische beveiliging. Zie tool misuse, agentische AI.
levenscyclus: De spanne van een enkel AI-systeem van eerste intake tot uitfasering, waarover het bestuurd moet worden. De horizontale as van governance: waar de governance-keten één principe borgt, voert de levenscyclus één systeem door de tijd. Doorgaans getekend als zes fasen, plan en ontwerp, data en ontwikkeling, verifieer en valideer, uitrol, gebruik en monitoring, en uitfasering, elk met controls die er eigen aan zijn en een anker-artefact. Een lus in plaats van een lijn, want een systeem in productie voert nieuw risico terug naar een verse beoordeling. Zie artefact, control, governance-keten.

M

machine learning: De dominante benadering van AI: algoritmen die beter worden in een taak door patronen uit data te leren in plaats van regels te volgen die een mens schreef. Zie algoritme, inferentie.
menselijk toezicht: Het ingebouwde vermogen van een mens om een AI-systeem te monitoren, erin in te grijpen, het te overrulen of stil te leggen, alleen betekenisvol wanneer de mens de bevoegdheid, de informatie en de tijd heeft om te handelen. Zie principe, human-in-the-loop, human-on-the-loop.
model card: Een gestructureerd document dat een AI-model beschrijft: het doel, de trainingsdata, de prestatie onder verschillende omstandigheden, de beperkingen en het beoogde gebruik. Een kern-artefact van de uitrolfase, het stelt de mensen die een systeem bedienen en overzien in staat te begrijpen wat het doet en waar het niet vertrouwd mag worden. Onderdeel van de technische documentatie die een auditor verwacht voor een hoog-risicosysteem. Zie artefact, levenscyclus.
model drift: Achteruitgang van de modelprestatie naarmate de inzetomgeving wegdrijft van de trainingsverdeling; opgemerkt door monitoring, beantwoord met hervalidatie en hertraining. Zie doorlopende monitoring, robuustheid.

N

natuurlijke persoon: Een levend menselijk individu, in onderscheid van een rechtspersoon zoals een onderneming; de drager van rechten onder de gegevensbescherming en de AI Act. Zie betrokkenen, profilering.

O

orchestrator: De agent die andere agents en tools coördineert richting een gezamenlijk doel. Het is het integratiepunt waar de verantwoording en classificatie op stackniveau zitten. Zie agentische stack, sub-agent.

P

pijler: Een principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van het GovCompass-7 control-raamwerk, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van het integrerend element (agentische AI), dat de zeven bindt in plaats van er een van te zijn. Zie principe, schade, risico, integrerend element.
post-market monitoring: De plicht aan de aanbiederszijde om ervaring met systemen in gebruik systematisch te verzamelen en erop te handelen, de productregelgevingshelft van doorlopende monitoring. Zie doorlopende monitoring, aanbieder.
principe: Een van de zeven waarden van verantwoorde AI waaraan een bestuurd systeem zou moeten voldoen (eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, menselijk toezicht). Een principe is abstract: het benoemt een uitkomst, geen knop die je kunt omzetten. Het wordt bestuurbaar door de schade te benoemen die het zou schenden, het risico van die schade in te schatten, en controls tegen dat risico te plaatsen. Wanneer GovCompass een principe zo borgt, noemt het dat een pijler. Zie pijler, schade, risico.
procesautonomie: Een dimensie van de autonomie van een agent: hoeveel van een proces in meerdere stappen hij uitvoert zonder menselijk ijkpunt, van een enkele stap tot een end-to-end-workflow. Zie autonomieniveau, beslissingsbevoegdheid.
profilering: Geautomatiseerde verwerking van persoonsgegevens om aspecten van een persoon te beoordelen of voorspellen, zoals prestaties, gedrag of locatie, zoals gedefinieerd in de AVG. Zie geautomatiseerde besluitvorming, natuurlijke persoon.
progressieve autonomie: Een agent de minste autonomie geven die hem laat werken, en zijn reikwijdte pas verbreden naarmate bewijs van betrouwbaar gedrag zich opbouwt. Autonomie wordt verdiend, niet ingesteld. Zie autonomieniveau, over-reliance.
prompt injection: Tegenwerkende instructies de invoer van een generatief systeem binnensmokkelen (rechtstreeks of via opgehaalde inhoud) om het beoogde gedrag te overschrijven. Zie goal hijacking, beveiliging en robuustheid.
proportionaliteit: Het gewicht van governance afstemmen op het risico van de use case, zware poorten voor grote gevolgen, lichte aanpak voor kleine, wat de controls geloofwaardig en nageleefd houdt. Zie risico, control.
pseudonimisering: Identificerende velden vervangen zodat data niet aan een persoon kan worden toegeschreven zonder afzonderlijke informatie, een minimalisatie- en beveiligingstechniek die data onder de AVG persoonsgegevens houdt. Zie dataminimalisatie.

R

red teaming: Tegenwerkend testen dat een AI-systeem bewust aftast op fouten, schadelijke uitkomsten of beveiligingszwaktes, vóór en na uitgave. Zie beveiliging en robuustheid, jailbreak.
regulatory sandbox: Een onder toezicht staande regeling van een toezichthouder waarmee organisaties een AI-systeem onder gecontroleerde omstandigheden kunnen testen vóór volledige uitrol. Zie markttoezichtautoriteit, conformiteitsbeoordeling.
release gate: Een beslispunt in de fase verifieer en valideer waar een systeem wordt getoetst aan gedefinieerde acceptatiedrempels en wordt afgetekend voordat het live kan gaan, door iemand met de bevoegdheid om te weigeren. Een preventieve control: een release gate die niemand kan weigeren is geen gate. Het anker-artefact ervan is de release-sign-off, die vastlegt wie de uitrol goedkeurde en op welke grond. Zie control, control-typen, levenscyclus.
representativiteit: Hoe goed de trainingsdata de populatie en de omstandigheden weerspiegelt die het systeem bij inzet zal tegenkomen, de kern van datakwaliteit voor AI in termen van geschiktheid voor het doel. Zie eerlijkheid, trainingsdata.
restrisico: Het risico dat overblijft nadat controls het hebben verminderd. Geen control brengt een risico tot nul terug, en niet elke control is zijn kosten waard, dus wordt er een bewuste afweging gemaakt: of de kosten van verdere control opwegen tegen de risicovermindering die het oplevert, en of het resterende risico aanvaardbaar is tegen de risicobereidheid van de organisatie. Dit is een afweging op inrichtingsniveau, waar de uitvoering terugrapporteert en governance het restrisico aanvaardt, om meer control vraagt, of de use case afwijst. EU AI Act Art. 9(5) vereist dat het per gevaar en in totaal aanvaardbaar wordt geoordeeld. Zie risico, control, risicobereidheid.
risico: In de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.
risicobereidheid: Het niveau van risico dat de leiding van een organisatie bereid is te aanvaarden in het nastreven van haar doelen, vastgesteld op het niveau van governance design. De maatstaf waartegen het restrisico aanvaardbaar wordt geoordeeld of niet. Geërfd uit de bredere governance van de organisatie en toegepast op AI. Een begrip uit enterprise risk management (COSO ERM) voordat het een AI-begrip is. Zie restrisico, governance design.
risicoregister: Het levende overzicht van de geïdentificeerde risico's van een AI-systeem, hun inschatting, respons, eigenaren en herzieningsdata, actueel gehouden van ontwerp tot uitfasering. Zie risico, control, governance-keten.
robuustheid: Het vermogen van een systeem om betrouwbaar te presteren onder realistische omstandigheden, inclusief ruis, randgevallen en tegenwerkende druk, de technische kern van het principe veiligheid en betrouwbaarheid. Zie beveiliging en robuustheid, principe.

S

schade: De concrete schade die een AI-systeem kan aanrichten en die een principe van verantwoorde AI beoogt te voorkomen: in de termen van de EU AI Act schade aan iemands gezondheid, veiligheid of grondrechten. Schade is de brug tussen een abstract principe en een bestuurbaar risico; governance wordt operationeel op het moment dat een organisatie de specifieke schades benoemt die ze wil voorkomen. Voor eerlijkheid is een schade dat een groep stelselmatig slechtere uitkomsten krijgt vanwege een kenmerk dat niet had mogen meetellen. Zie principe, risico.
shadow AI: AI-tools die door medewerkers of afdelingen buiten de officiële kanalen en governance worden aangeschaft, het voorspelbare product van processen die te zwaar of te traag zijn. Zie AI-inventaris, governance.
social scoring: Mensen in de tijd en over contexten heen beoordelen, met nadelige of onevenredige behandeling als gevolg, een verboden AI-praktijk in de EU. Zie verboden praktijken.
sub-agent: Een agent die door een andere agent of een orchestrator wordt aangeroepen om een deel van een taak uit te voeren. Zijn handelingen erven nog steeds de verplichtingen van de stack waartoe hij behoort. Zie orchestrator, agentische stack.
substantiële wijziging: Een verandering aan een uitgerold AI-systeem die zijn functie of doel wezenlijk wijzigt, in staat om de verplichtingen van de aanbieder naar de wijzigende partij te verschuiven. Zie aanbieder, AI-verplichtingen, herbestemming.
systeemrisico: Categorie van de EU AI Act voor de meest capabele general-purpose modellen (verondersteld boven een drempel van trainingsrekenkracht), wat extra plichten activeert: evaluaties, tegenwerkend testen, incidentmelding, cyberbeveiliging. Zie general-purpose AI-model, general-purpose AI.

T

technische documentatie: Registraties die een aanbieder voor een hoog-risico-AI-systeem moet samenstellen en bewaren om conformiteit aan te tonen, met dekking van het ontwerp, de data, het testen, het risicobeheer en de monitoring. Zie aanbieder, bewijs, model card.
toeleveringsketen: De gelaagde keten achter een AI-product, foundation models, datasets, labeldiensten, integrators, waarbij elke laag risico toevoegt dat de koper nooit rechtstreeks heeft gecontracteerd. Zie waardeketen, derdenrisico.
tool misuse: Een agent die een toegestane tool aanroept op een manier die een onbedoeld effect in de echte wereld oplevert. Tegengegaan met afgebakende tooltoegang en goedkeuringspoorten op aanroepen met grote gevolgen. Zie least-privilege, escalatietrigger.
trainingsdata: De data die wordt gebruikt om de parameters van een AI-model te passen; de kwaliteit, de rechtmatige rechten en de representativiteit ervan zijn centrale governance-zorgen. Zie representativiteit, herkomst, datasheet.
trainingsregistraties: Bewijs van wie welke versie van welke trainingsinhoud heeft afgerond, wanneer, met welk resultaat, het artefact dat training laat functioneren als een compliance-control. Zie AI-geletterdheid, bewijs.
transparantie: Openheid over het feit dát AI wordt gebruikt en hoe het in het algemeen werkt: openbaarmakingen, documentatie, kennisgevingen. Vormt een paar met uitlegbaarheid, die over individuele uitkomsten gaat. Zie uitlegbaarheid, principe.

U

uitlegbaarheid: Het vermogen om een betekenisvolle reden te geven voor een specifieke uitkomst van een AI-systeem aan de mensen die het raakt, te onderscheiden van transparantie, die de openbaarmaking is dát en hoe AI wordt gebruikt. Zie transparantie, principe.

V

verantwoorde AI: Het geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. GovCompass ordent de zeven principes in een control-raamwerk, de GovCompass-7, met één pijler per principe. Zie principe, pijler, governance.
verantwoording: Het principe dat een met naam genoemde mens of organisatie verantwoording aflegt voor de uitkomsten van een AI-systeem, via eigenaarschap, documentatie, audit trails en herstel, nooit het systeem zelf. Zie principe, bewijs.
verboden praktijken: AI-toepassingen die onder de AI Act ronduit verboden zijn, zoals social scoring, manipulatieve technieken en het ongericht schrapen van gezichtsbeelden. Zie social scoring, biometrische categorisering.
volwassenheidsmodel: Een trapsgewijze beschrijving van governance-volwassenheid (ad hoc, herhaalbaar, gedefinieerd, beheerst, optimaliserend), gebruikt om aanbevelingen op de eerstvolgende haalbare trede te richten. Zie governance.

W

waardeketen: De reeks actoren van modelontwikkeling via levering tot uitrol en gebruik, waarlangs verantwoordelijkheden en AI Act-verplichtingen zich verplaatsen. Zie toeleveringsketen, AI-verplichtingen.
wijzigingsbeheer: De beheerste afhandeling van updates aan modellen, data en configuraties: elke wezenlijke wijziging doorloopt opnieuw validatie voordat ze opnieuw wordt uitgerold. Zie control, doorlopende monitoring.

Bekijk AI governance