AI risk management: de risico's die ertoe doen, en hoe u ze beheerst

Bijgewerkt: juli 2026

Wat AI-risico anders maakt

De meeste organisaties draaien al risicomanagement. De reden dat AI een eigen behandeling nodig heeft, is niet dat de discipline verandert; het is dat AI vier aannames breekt waarop de discipline is gebouwd.

AI is probabilistisch. Hetzelfde systeem geeft bij hetzelfde soort input niet altijd hetzelfde antwoord. Een klassieke applicatie is correct of defect; een model heeft het een bepaald percentage van de tijd goed, en dat percentage is de eerlijke manier om het te beschrijven. "Getest en goedgekeurd" in de traditionele zin, één testronde vóór release, bestaat niet voor een systeem waarvan het gedrag een verdeling is.

AI leert van data. Wat in de data zit, wordt gedrag. Een wervingsmodel dat is getraind op jaren van scheve wervingsbeslissingen bevat geen regel bevooroordeelde code; het bevat bevooroordeelde geschiedenis, getrouw aangeleerd. Het risicorisicoIn de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.Open full entry → komt niet binnen via de bouw, het komt binnen via het verleden.

AI verandert na livegang. De wereld verschuift, de data verschuift mee, en een model dat bij lancering accuraat was, verslechtert stilletjes. Dit is driftdriftHet geleidelijk afwijken van het gedrag of de prestaties van een AI-systeem van zijn gevalideerde staat na ingebruikname, zonder codewijziging of fout. Drift is van nature stil: er breekt niets, de nauwkeurigheid neemt gewoon af totdat iemand meet. Zie model drift, agent drift.Open full entry →, en het kenmerkende eraan is dat er niets breekt: geen foutmelding, geen crash, alleen besluiten die geleidelijk slechter worden totdat iemand meet. Een systeem kan zakken voor een audit waarvoor het een jaar eerder slaagde, zonder één wijziging aan het systeem.

AI opereert op schaal en snelheid. Eén ontwerpfout produceert niet één verkeerde uitkomst, maar duizenden, voordat een mens de eerste heeft beoordeeld. Agentic AIagentic AISystemen waarin een model handelingen verricht, tools aanroept, plannen in meerdere stappen uitvoert, wat zowel de capaciteit als elke faalvorm versterkt; bestuurd met action-allowlists, goedkeuringen en volledige logging. Zie AI-agent, agentic governance.Open full entry → versterkt dit verder, omdat het systeem niet langer tussen stappen op een mens wacht: wat er dan verandert, is uitgewerkt in het agentic AI-cornerstone-artikel.

Samen verklaren deze vier waarom AI risk management geen poort bij livegang kan zijn. Het is doorlopend werk: het risicoprofiel van een AI-systeemAI-systeemEen machinaal systeem dat voor expliciete of impliciete doelen uit invoer afleidt hoe het uitvoer genereert, voorspellingen, inhoud, aanbevelingen of beslissingen, die fysieke of virtuele omgevingen kunnen beïnvloeden. De OESO-achtige definitie die de EU AI Act volgt. Zie algoritme, machine learning.Open full entry → is geen eigenschap die u eenmalig vaststelt, het is een toestand die u moet blijven meten.

Het patroon: herkennen, beoordelen, beheersen

Elk risico in dit artikel wordt met dezelfde drie bewegingen behandeld.

Herkennen betekent weten hoe het risico er in het wild uitziet, niet in een definitie. De meeste AI-risico's kondigen zich aan in patronen: een cluster klachten, een goedkeuringspercentage dat nooit daalt, een outputverdeling die één kant op leunt.

Beoordelen betekent twee vragen beantwoorden voor uw specifieke systeem, niet voor AI in het algemeen: hoe waarschijnlijk is dit hier, en hoe erg is het als het hier gebeurt. Een bevooroordeelde rangschikking in een interne documentzoeker is een ongemak; dezelfde biasbiasEen systematische scheefheid in data, modelgedrag of uitkomsten die de ene groep zonder rechtvaardiging anders behandelt dan de andere. Bias sluipt meestal binnen via trainingsdata die historische patronen weerspiegelen. Voor hoogrisico-AI-systemen vereist Artikel 10 van de EU AI Act onderzoek van datasets op mogelijke bias en maatregelen om die te detecteren, te voorkomen en te beperken. Zie eerlijkheid.Open full entry → in cv-screening verandert mensenlevens. Zelfde risicotype, ander risico.

Beheersen betekent maatregelen kiezen die het risico verkleinen en testbaar zijn. ControlscontrolDe concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.Open full entry → komen in de drie typen die elke auditor herkent: preventieve controls die de schadeschadeDe concrete schade die een AI-systeem kan aanrichten en die een principe van verantwoorde AI beoogt te voorkomen: in de termen van de EU AI Act schade aan iemands gezondheid, veiligheid of grondrechten. Schade is de brug tussen een abstract principe en een bestuurbaar risico; governance wordt operationeel op het moment dat een organisatie de specifieke schades benoemt die ze wil voorkomen. Voor eerlijkheid is een schade dat een groep stelselmatig slechtere uitkomsten krijgt vanwege een kenmerk dat niet had mogen meetellen. Zie principe, risico.Open full entry → voorkomen voordat die ontstaat, detectieve controls die haar zichtbaar maken terwijl het systeem draait, en correctieve controls die de schade beperken en de les terugvoeren.

Dit is dezelfde keten die door het hele governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.Open full entry →-model loopt, van principeprincipeEen van de zeven waarden van verantwoorde AI waaraan een bestuurd systeem zou moeten voldoen (eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, menselijk toezicht). Een principe is abstract: het benoemt een uitkomst, geen knop die je kunt omzetten. Het wordt bestuurbaar door de schade te benoemen die het zou schenden, het risico van die schade in te schatten, en controls tegen dat risico te plaatsen. Zo geborgd, wordt een principe een pijler. Zie pijler, schade, risico.Open full entry → tot bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry →, risico-eerst toegepast. De EU AI ActEU AI ActVerordening (EU) 2024/1689, in het Nederlands de AI-verordening, de Europese wet over artificiële intelligentie. Ze hanteert een risicogebaseerde aanpak: verboden praktijken, eisen voor hoogrisico-AI-systemen, transparantieverplichtingen voor specifieke toepassingen en een apart regime voor AI-modellen voor algemene doeleinden (general-purpose AI). Verplichtingen zijn verdeeld tussen aanbieders en gebruiksverantwoordelijken. Zie hoogrisico-AI-systeem, general-purpose AI, conformiteitsbeoordeling.Open full entry → vereist precies deze discipline voor hoogrisico-AI-systemen: artikel 9 van Verordening (EU) 2024/1689 vereist een risicobeheersysteem dat als continu iteratief proces gedurende de gehele levenscycluslevenscyclusDe spanne van een enkel AI-systeem van eerste intake tot uitfasering, waarover het bestuurd moet worden. De horizontale as van governance: waar de governance-keten één principe borgt, voert de levenscyclus één systeem door de tijd. Doorgaans getekend als zes fasen, plan en ontwerp, data en ontwikkeling, verifieer en valideer, uitrol, gebruik en monitoring, en uitfasering, elk met controls die er eigen aan zijn en een anker-artefact. Een lus in plaats van een lijn, want een systeem in productie voert nieuw risico terug naar een verse beoordeling. Zie artefact, control, governance-keten.Open full entry → van het systeem loopt, met regelmatige systematische herziening en actualisering. De verplichting ligt bij de aanbiederaanbiederDe actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.Open full entry →, en de risico's binnen de reikwijdte zijn die voor de gezondheid, veiligheid en grondrechten. De volledige cyclus, met het principe als anker, staat uitgewerkt in het model.

De risico's, pijler voor pijler

Elk van de zeven pijlerspijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry → is een belofte die een AI-systeem kan breken. Deze sectie loopt door hoe elke pijler in de praktijk breekt. Voor de volledige control-tabellen met wetsverwijzingen linkt elke sectie naar de pijlerpagina.

Fairness

Het risico: het systeem benadeelt systematisch een groep. Dat gebeurt zelden openlijk. De klassieke route is historische data: een model dat leert van jaren scheve besluiten reproduceert de scheefheid. De subtielere route is proxy discrimination: het model ziet nooit een beschermd kenmerk, maar leert er een vervanger voor, een postcode, een gat in een cv, een schoolnaam.

Herken het in uitkomstverdelingen die per groep één kant op leunen, in klachtenpatronen, in een afwijzingspercentage voor één populatie dat geen enkele zakelijke reden verklaart. Beoordeel het door te vragen welke groepen dit systeem raakt, of de trainingsgeschiedenis scheefheid bevat, en wat één verkeerd besluit de persoon aan de ontvangende kant kost. Beheers het met een representativiteitscheck op de trainingsdatatrainingsdataDe data die wordt gebruikt om de parameters van een AI-model te passen; de kwaliteit, de rechtmatige rechten en de representativiteit ervan zijn centrale governance-zorgen. Zie representativiteit, herkomst, datasheet.Open full entry → vóór release, bias-testen per groep zodra het systeem live is, en een drempel met een route voor opschorten en hertrainen wanneer die wordt overschreden. Volledige control-tabel: zie de fairness-pijlerpagina.

Safety en reliability

Het risico: het systeem faalt, of verzint met stelligheid, op een moment dat ertoe doet. En apart daarvan: het systeem dat bij lancering werkte, verslechtert. Drift is hét kenmerkende betrouwbaarheidsrisico van AI omdat het stil is: de nauwkeurigheid zakt weg zonder dat er een fout wordt gegooid, en de organisatie blijft vertrouwen op cijfers die niet meer waar zijn.

Herken het in oplopende foutpercentages, in gebruikers die stilletjes om het systeem heen werken, in uitkomsten die de mensen verrassen die het domein kennen. Beoordeel het door te vragen wat een verkeerde output hier veroorzaakt, wie die opvangt en hoe snel, en hoe ver de nauwkeurigheid kan zakken voordat schade begint. Beheers het met acceptatiedrempels die vóór livegang zijn vastgesteld, prestatiemonitoring met alarmering tegen die drempels tijdens de operatie, en een gedefinieerde terugval naar menselijke afhandeling wanneer het systeem eronder zakt. Volledige control-tabel: zie de safety en reliability-pijlerpagina.

Privacy

Het risico: persoonsgegevens belanden waar ze niet horen. In trainingsdata die nooit voor dit doel was bedoeld, in modeloutput die reproduceert wat het model heeft onthouden, in logs die niemand als gegevensopslag beschouwde. En het stillere risico: purpose creep, een systeem dat voor één gebruik is gebouwd en afglijdt naar een ander gebruik dat de gegevensgrondslag nooit dekte.

Herken het in persoonsgegevens die in output of logs opduiken, en in gebruiksgevallen die zijn afgedreven van wat oorspronkelijk is beoordeeld. Beoordeel het door te vragen welke persoonsgegevens het systeem binnenkomen, of het model die kan reproduceren, en of deze verwerking een gegevensbeschermingseffectbeoordeling onder artikel 35 AVGAVGVerordening (EU) 2016/679, de Algemene verordening gegevensbescherming (in het Engels: GDPR). De AVG geldt voor AI zodra persoonsgegevens de training, invoer, uitvoer of logs binnenkomen, en werkt naast de EU AI Act in plaats van erdoor te worden vervangen. Zie verwerkingsverantwoordelijke, verwerker, DPIA.Open full entry → zou vereisen. Beheers het met dataminimalisatiedataminimalisatieAlleen data verwerken die toereikend, ter zake dienend en noodzakelijk is, in ML uitgevoerd via pseudonimisering, kenmerkselectie, synthetische data en privacyverhogende technieken. Zie pseudonimisering, bijzondere categorieën persoonsgegevens.Open full entry → vóór training, outputscanning op persoonsgegevens tijdens de operatie, en een werkende verwijderroute wanneer gegevens worden aangetroffen waar ze niet horen. Volledige control-tabel: zie de privacy-pijlerpagina.

Security en robustness

Het risico: iemand manipuleert het systeem tot gedrag dat niet de bedoeling is. AI voegt aanvalsoppervlakken toe die klassieke security niet dekt: prompt injectionprompt injectionTegenwerkende instructies de invoer van een generatief systeem binnensmokkelen (rechtstreeks of via opgehaalde inhoud) om het beoogde gedrag te overschrijven. Zie goal hijacking, beveiliging en robuustheid.Open full entry → die instructies bínnen de input omzet in gedrag, data poisoningdata poisoningEen aanval die trainingsdata corrumpeert zodat het model door de aanvaller gekozen gedrag aanleert, een kernbedreiging uit de adversariële ML voor de datapijplijn. Zie beveiliging en robuustheid, trainingsdata.Open full entry → die de fout van morgen plant in de trainingsset van vandaag, adversarial inputsadversarial inputEen input die opzettelijk is samengesteld om een AI-systeem een verkeerde of schadelijke output te laten produceren, vaak via wijzigingen die een mens niet zou opmerken. Adversarial inputs zijn een kernaanvalstype onder de pijler beveiliging en robuustheid en een standaarddoelwit van testen vóór release. Zie red teaming, prompt injection.Open full entry → die zijn gemaakt om een output te laten kantelen. De governance-vraag is niet de technische diepte van elke aanval, dat is het terrein van security engineering, maar of het risico belegd, beoordeeld en van bewijs voorzien is zoals elk ander risico.

Herken het in afwijkende inputpatronen en in outputveranderingen die niemand kan verklaren. Beoordeel het door te vragen wie het systeem kan bereiken, wat manipulatie een aanvaller zou opleveren, en hoe u het zou merken. Beheers het met inputvalidatie, adversarial testing vóór en na release, en toegangsbeheer op het model en zijn data. Volledige control-tabel: zie de security en robustness-pijlerpagina.

Transparency en explainability

Het risico: niemand kan uitleggen waarom het systeem besloot wat het besloot. Dat wordt concreet op de dag dat een klant, een toezichthouder of een rechter het vraagt. Een besluit dat niet te reconstrueren is, is niet te verdedigen, en "het model heeft besloten" is geen uitleg, het is de afwezigheid ervan.

Herken het in antwoorden die stoppen bij "dat zei het systeem", en in besluiten zonder logging erachter. Beoordeel het door te vragen wie de besluiten van dit systeem moet kunnen uitleggen, aan wie, en op welk detailniveau; een interne beoordelaar heeft iets anders nodig dan een betrokkene. Beheers het met explainability-eisen die per gebruiksgeval vóór de bouw zijn vastgesteld, besluitlogging tijdens de operatie, en een route die op verzoek een betekenisvolle uitleg oplevert. Volledige control-tabel: zie de transparency en explainability-pijlerpagina.

Accountability

Het risico: het systeem heeft geen eigenaar. Er worden besluiten genomen en niemand draagt ze. De verwarring is vaak structureel: de aanbieder bouwde het model, de gebruiksverantwoordelijkegebruiksverantwoordelijkeEen organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.Open full entry → draait het, en elk gaat ervan uit dat de ander de verplichting draagt. Wanneer iets misgaat, blijkt "het systeem deed het" de feitelijke positie van de organisatie te zijn, en die positie faalt zodra iemand haar toetst.

Herken het in een registervermelding zonder naam eraan, in aanbieder- en gebruiksverantwoordelijke-verplichtingen die niemand heeft opgeschreven, in vragen over een systeem die worden doorgestuurd tot ze verdwijnen. Beoordeel het door te vragen wie welke verplichting voor dit systeem draagt, of dat is vastgelegd, en of de genoemde persoon het weet. Beheers het met een benoemde eigenaar voor elk systeem, de aanbieder-gebruiksverantwoordelijke-verdeling contractueel vastgelegd, en een audit trail die besluiten koppelt aan het mandaat waaronder ze liepen. Volledige control-tabel: zie de accountability-pijlerpagina.

Human oversight

Het risico: toezicht dat op papier bestaat en in de praktijk is opgehouden te bestaan. Er zit formeel een mens in de lus, maar die beoordeelt zoveel systeembesluiten dat beoordelen inzakt tot bevestigen. Automation biasautomation biasDe menselijke neiging om geautomatiseerde uitkomsten te veel te vertrouwen, een aanbeveling van een systeem aanvaarden zonder het geval echt te wegen, wat het menselijk toezicht uitholt. Zie menselijk toezicht.Open full entry → doet dit geruisloos: het goedkeuringspercentage klimt richting 100 procent en iedereen leest dat als een goed presterend systeem, terwijl het net zo goed toezicht beschrijft dat in slaap is gevallen. Het tweede risico: toezicht dat niet zou kunnen ingrijpen al zou het willen; geen mandaat, geen tijd, geen route.

Herken het in goedkeuringspercentages die nooit dalen, in beoordelaars die zich de laatste keer dat ze het systeem overrulen niet kunnen herinneren, in escalatieroutes die in een document bestaan en nergens anders. Beoordeel het door te vragen of de mens het besluit betekenisvol kan beoordelen, de bevoegdheid en tijd heeft om het te verwerpen, en of verwerpingen in de praktijk voorkomen. Beheers het met een override rate die als KPI wordt gevolgd, laag is een waarschuwing, geen compliment, escalatieroutes die worden getest, en een periodieke check dat het toezicht nog functioneert zoals ontworpen. Voor wat er verandert wanneer het systeem zelfstandig handelt, zie het agentic AI-cornerstone-artikel. Volledige control-tabel: zie de human oversight-pijlerpagina.

Operationeel maken

De zeven secties hierboven beschrijven het werk per risico. Wat het een praktijk maakt in plaats van een eenmalige exercitie, is de machinerie eromheen.

Het register komt eerst. Elk AI-systeem dat de organisatie bouwt, koopt of inbedt, inclusief de AI die stilletjes aanstaat binnen SaaS-tools, wordt vastgelegd met een benoemde eigenaar en een risicoklasse. U kunt het risico niet beheersen van een systeem waarvan u niet weet dat u het hebt, en in de meeste organisaties is de eerste versie van het register een ontdekkingsexercitie, geen administratieve.

Beoordelen heeft een ritme. Hoogrisico-AI-systemen krijgen de volledige behandeling: het patroon herkennen, beoordelen, beheersen toegepast per relevante pijler. En de beoordeling wordt herhaald, bij elke wezenlijke wijziging, een nieuwe modelversie, nieuwe data, een nieuw gebruiksgeval, en periodiek ook zonder wijziging, want drift wacht niet op een change request.

De rollen zijn de three lines. De eerste lijn draait het systeem en draagt het risico. De tweede lijn daagt de beoordeling uit: is de bias-test goed genoeg. De derde lijn auditeert onafhankelijk: niet of het papierwerk bestaat, maar of de controls werken. Het oordeel over het restrisicorestrisicoHet risico dat overblijft nadat controls het hebben verminderd. Geen control brengt een risico tot nul terug, en niet elke control is zijn kosten waard, dus wordt er een bewuste afweging gemaakt: of de kosten van verdere control opwegen tegen de risicovermindering die het oplevert, en of het resterende risico aanvaardbaar is tegen de risicobereidheid van de organisatie. Dit is een afweging op inrichtingsniveau, waar de uitvoering terugrapporteert en governance het restrisico aanvaardt, om meer control vraagt, of de use case afwijst. EU AI Act Art. 9(5) vereist dat het per gevaar en in totaal aanvaardbaar wordt geoordeeld. Zie risico, control, risicobereidheid.Open full entry →, is wat na de controls overblijft aanvaardbaar, hoort bij het ontwerpniveau, afgemeten aan de AI-risicobereidheidrisicobereidheidHet niveau van risico dat de leiding van een organisatie bereid is te aanvaarden in het nastreven van haar doelen, vastgesteld op het niveau van governance design. De maatstaf waartegen het restrisico aanvaardbaar wordt geoordeeld of niet. Geërfd uit de bredere governance van de organisatie en toegepast op AI. Een begrip uit enterprise risk management (COSO ERM) voordat het een AI-begrip is. Zie restrisico, governance design.Open full entry → die de organisatie heeft vastgesteld.

Elke stap laat bewijs achter. Het register zonder testresultaten is een lijst, geen risicomanagement. Elke beoordeling, elke control-test, elk restrisicobesluit levert een artifact op, en die artifacts zijn wat "wij beheersen AI-risico" verandert van een claim in iets dat de organisatie kan laten zien.

De discipline in deze sectie is kernstof voor de AIGP-certificering, het AI-governance-certificaat van de IAPP.