Hoe het GovCompass-model aansluit op de grote frameworks
Het GovCompass governance-model is geen nieuw framework dat met de bestaande concurreert; het is een synthese ervan, geordend tot één keten. Elke schakel heeft een anker in een gezaghebbende bron: NIST en ISO/IEC 42001 voor de structuur van inrichting en uitvoering, EU AI Act Artikel 9 voor de bindende keten van schade naar risico naar control en het restrisico-oordeel, en COSO ERM, het IIA Three Lines Model en ISO 31000 voor het enterprise-risk-fundament dat het erft.
Het GovCompass governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, executie.Open full entry →-model is geen nieuw framework dat met de bestaande concurreert. Het is een synthese ervan, geordend tot één keten: een governance-stelsel, werkend op een inrichtingsniveau en een uitvoeringsniveau, dat elk principeprincipeEen van de zeven waarden van verantwoorde AI waaraan een bestuurd systeem zou moeten voldoen (eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, menselijk toezicht). Een principe is abstract: het benoemt een uitkomst, geen knop die je kunt omzetten. Het wordt bestuurbaar door de schade te benoemen die het zou schenden, het risico van die schade in te schatten, en controls tegen dat risico te plaatsen. Wanneer GovCompass een principe zo borgt, noemt het dat een pijler. Zie pijler, schade, risico.Open full entry → borgt door de schadeschadeDe concrete schade die een AI-systeem kan aanrichten en die een principe van verantwoorde AI beoogt te voorkomen: in de termen van de EU AI Act schade aan iemands gezondheid, veiligheid of grondrechten. Schade is de brug tussen een abstract principe en een bestuurbaar risico; governance wordt operationeel op het moment dat een organisatie de specifieke schades benoemt die ze wil voorkomen. Voor eerlijkheid is een schade dat een groep stelselmatig slechtere uitkomsten krijgt vanwege een kenmerk dat niet had mogen meetellen. Zie principe, risico.Open full entry → te benoemen die het zou schenden, het risicorisicoIn de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.Open full entry → in te schatten dat die schade draagt, controls te plaatsen die het verminderen over de preventieve, detectieve en correctieve typen, het restrisicorestrisicoHet risico dat overblijft nadat controls het hebben verminderd. Geen control brengt een risico tot nul terug, en niet elke control is zijn kosten waard, dus wordt er een bewuste afweging gemaakt: of de kosten van verdere control opwegen tegen de risicovermindering die het oplevert, en of het resterende risico aanvaardbaar is tegen de risicobereidheid van de organisatie. Dit is een afweging op inrichtingsniveau, waar de uitvoering terugrapporteert en governance het restrisico aanvaardt, om meer control vraagt, of de use case afwijst. EU AI Act Art. 9(5) vereist dat het per gevaar en in totaal aanvaardbaar wordt geoordeeld. Zie risico, control, risicobereidheid.Open full entry → tegen de risicobereidheidrisicobereidheidHet niveau van risico dat de leiding van een organisatie bereid is te aanvaarden in het nastreven van haar doelen, vastgesteld op het niveau van governance design. De maatstaf waartegen het restrisico aanvaardbaar wordt geoordeeld of niet. Geërfd uit de bredere governance van de organisatie en toegepast op AI. Een begrip uit enterprise risk management (COSO ERM) voordat het een AI-begrip is. Zie restrisico, governance design.Open full entry → te oordelen, en het geheel met bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry → aan te tonen.
Elke schakel in die keten heeft een anker in een gezaghebbend framework. Dit artikel beeldt het model af op de frameworks waarmee een AI governanceAI governanceGovernance uitgebreid voor AI: hetzelfde organisatiebrede besturen op het hoogste niveau, verbreed naar wat AI anders maakt (het werkt in waarschijnlijkheden in plaats van vaste regels, leert uit data, en kan handelen op een snelheid en schaal die geen menselijke beoordelaar bijhoudt). Het erft de bestaande governance-structuur en brengt AI binnen de disciplines die de organisatie al voert, in plaats van een parallel stelsel in een silo te bouwen. Het werkt op twee niveaus: inrichting en uitvoering. Zie governance, governance design, executie, verantwoorde AI.Open full entry →-professional werkt, zodat het model als één mentale structuur kan worden gebruikt zonder het vermogen te verliezen om de taal van elk framework te spreken wanneer een auditor, een toezichthouder of een certificering daarom vraagt. Het is een metgezel van wat is AI governance, dat de keten zelf uiteenzet.
De tweelaagse structuur: inrichting en uitvoering
De scheiding tussen governance design en uitvoering is de structuur die de grote AI-frameworks al gebruiken.
Het NIST AI Risk Management Framework scheidt zijn govern-functie, de overkoepelende organisatielaag van beleid, verantwoordingverantwoordingHet principe dat een met naam genoemde mens of organisatie verantwoording aflegt voor de uitkomsten van een AI-systeem, via eigenaarschap, documentatie, audit trails en herstel, nooit het systeem zelf. Zie principe, bewijs.Open full entry → en cultuur, van de map-, measure- en manage-functies die doorlopend tegen elk systeem draaien. Govern is het inrichtingsniveau; map, measure en manage zijn uitvoering. NIST is expliciet dat govern doorheen de andere is geweven en dat hun uitkomsten terugkoppelen naar govern om het bij te werken, wat de inrichting-uitvoeringslus is.
ISO/IEC 42001 is gebouwd als een AI-managementsysteemAI-managementsysteemDe organisatiestructuur, het beleid en de processen om AI over de hele levenscyclus te besturen, zoals geformaliseerd in ISO/IEC 42001. Zie governance, levenscyclus.Open full entry → op de Plan-Do-Check-Act-cyclus: de planningsclausules vestigen de inrichting (context, leiderschap, beleid, rollen, risicoplanning), en de clausules voor uitvoering, evaluatie en verbetering zijn de uitvoering (de controls draaien, auditen, corrigeren). Een managementsysteem is per definitie een inrichting die doorlopend werkt, wat dezelfde twee niveaus zijn.
De AIGP body of knowledge volgt dezelfde vorm: de vroege competenties betreffen het vestigen van organisatorische verwachtingen, beleid en rollen (inrichting), en de latere domeinen betreffen het besturen van ontwikkeling en uitrol over de AI-levenscyclusAI-levenscyclusDe fasen van een AI-systeem in een lus: ontwerp, data en ontwikkeling, validatie, uitrol, gebruik en monitoring, uitfasering, elk met eigen controls en bewaakte overgangen. Zie levenscyclus, ontmanteling.Open full entry → (uitvoering).
De keten: principe, schade, risico, control, restrisico, bewijs
Het hart van het model, dat controls risico's verminderen die via een schade terugleiden naar een principe, is de structuur die de EU AI Act bindend maakt en die de normen operationaliseren.
EU AI Act Artikel 9 legt de volgorde rechtstreeks vast: identificeer en evalueer de risico's die een hoog-risicosysteem stelt aan gezondheid, veiligheid en grondrechten, neem dan gerichte risicobeheersmaatregelen die de geïdentificeerde risico's adresseren, en zorg dat het restrisico aanvaardbaar wordt geoordeeld. Het vereist dat elke beheersmaatregel terug te voeren is op het specifieke risico dat ze adresseert; controls en risico's in afzonderlijke documenten zonder verband ertussen is een compliance-fout. Die lijn van schade naar risico naar controlcontrolDe concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.Open full entry → en het restrisico-oordeel zijn de keten, in de wet. De manier waarop de Act risico framet als de waarschijnlijkheid en ernst van een schade is wat de schade aan het begin van de keten plaatst.
ISO/IEC 42001 operationaliseert dezelfde volgorde: de risicobehandelingsclausule vereist dat de organisatie controls kiest voor haar geïdentificeerde risico's en ze toetst aan de Annex A control-set, en de clausule voor impactassessmentimpactassessmentEen gestructureerde evaluatie, uitgevoerd in de fase plan en ontwerp, van de schades die een AI-systeem zou kunnen veroorzaken en het risico dat die schades dragen, voordat het systeem wordt gebouwd. De eerste plek waar de governance-keten wordt doorlopen, en het goedkoopste punt in de levenscyclus om risico te verminderen. Het anker-artefact van de ontwerpfase; onder de EU AI Act is een grondrechten-impactassessment vereist voor bepaalde hoog-risico-gebruiksverantwoordelijken. Zie schade, risico, levenscyclus.Open full entry → levert het uitvoeringsinstrument. De norm vereist het verband tussen een risico en zijn behandeling, dezelfde herleidbaarheid die de AI Act eist.
Het NIST RMF drukt de keten uit over zijn functies: map identificeert het risico in context, measure beoordeelt het, en manage past de control toe en volgt het restrisico.
De drie control-typencontrol-typenDe drie manieren waarop een control kan werken, het onderscheid dat elke auditor herkent. Preventieve controls voorkomen de schade voordat ze kan optreden, bijvoorbeeld door een handeling te weigeren die het systeem niet mag verrichten. Detectieve controls leggen een falen bloot zodra het optreedt, via testen, loggen en monitoren. Correctieve controls beperken de schade en voeren de les terug naar preventie, via escalatie, ingrijpen en incidentafhandeling. Een preventieve control alleen is zelden genoeg; een sterk programma laat alle drie aan het werk zien voor de risico's die ertoe doen. Zie control.Open full entry →, preventief, detectief, correctief, zijn de standaardtaxonomie van de auditor, en ze sluiten aan op de structuur van Artikel 9: eliminatie of vermindering door ontwerp (preventief), monitoring en testen (detectief), en beheersing, escalatie en incidentafhandeling voor wat overblijft (correctief).
Waar ERM het model verankert
AI governance begint niet met een blanco pagina. Het erft het enterprise risk management dat een organisatie al voert, en drie ERM-frameworks verankeren die erfenis.
COSO ERM, in zijn vorm uit 2017, levert de enterprise-structuur waarbinnen het inrichtingsniveau van het model zit. De vijf componenten ervan, governance en cultuur, strategie en doelstelling, prestatie, herziening en bijstelling, en informatie, communicatie en rapportage, omvatten twintig principes. De schade-risico-control-keten van het model is de risico-identificatie, -beoordeling en -respons die COSO onder prestatie plaatst, toegepast op de zeven AI-principes, en het oordeel over restrisico tegen risicobereidheid is een COSO-mechanisme. Risicobereidheid is een COSO-begrip voordat het een AI-begrip is.
Het IIA Three Lines Model, in 2020 hernoemd van het oudere "three lines of defence", verankert de rollen in het inrichtingsniveau van het model: de eerste lijn bezit en beheert risico en controls, de tweede lijn levert oversight, tegenspraak en expertise (waar een toegewijde AI governance-functie of AI Officer doorgaans zit), en de derde lijn levert onafhankelijke assurance. De rollen van aanbiederaanbiederDe actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.Open full entry → en gebruiksverantwoordelijkegebruiksverantwoordelijkeEen organisatie die een AI-systeem onder eigen gezag in haar activiteiten gebruikt, met exploitantplichten: gebruik volgens de instructies, toezicht, relevantie van de invoer, monitoring, kennisgevingen. Zie aanbieder, AI-verplichtingen.Open full entry → die de AI Act definieert werken binnen deze structuur, niet ernaast.
ISO 31000 verankert de generieke risicodiscipline zelf: het proces ervan, stel de context vast, dan risicobeoordeling (identificatie, analyse, evaluatie), dan risicobehandeling, met communicatie en monitoring doorheen, is de generieke vorm van de schade-risico-control-keten van het model. De risicoclausules van ISO/IEC 42001 zijn de AI-specifieke uitdrukking van dat generieke proces, wat precies de reden is waarom AI governance kan worden beschreven als geërfd-en-uitgebreid in plaats van uitgevonden. De afstemming is geen toeval: analyse van Artikel 9 van de EU AI Act, de ISO-risiconormen en het NIST RMF vindt dat ze samenkomen op dezelfde stappen op hoog niveau, risico's definiëren, beoordelen en behandelen, alle onder een govern-proces, wat precies de inrichting-en-uitvoeringsstructuur is die dit model gebruikt.
Waarom de synthese standhoudt
De frameworks zijn het eens omdat ze dezelfde onderliggende discipline beschrijven vanuit verschillende hoeken. NIST geeft het procesmodel en de inrichting-uitvoeringslus. ISO 42001 geeft het certificeerbare managementsysteem. De EU AI Act geeft de bindende wettelijke verplichtingen, met de herleidbaarheid van schade naar risico naar control en het restrisico-oordeel als harde eisen. COSO, het Three Lines Model en ISO 31000 geven het enterprise-risk-fundament dat de AI-specifieke frameworks erven. De AIGP body of knowledge is de professionele competentiekaart over alle.
Het GovCompass-model ordent deze tot één keten zodat een AI governance-professional één structuur in gedachten kan houden en die kan vertalen naar welk framework de situatie ook vraagt: NIST-taal voor een Amerikaans inkoopgesprek, ISO 42001 voor een certificeringsaudit, Artikel 9 voor een EU-hoog-risicoverplichting, COSO en het Three Lines Model voor het bestuur en de interne auditinterne auditDe derde verdedigingslinie: onafhankelijke assurance dat AI-beoordelingen, controls en documentatie ook echt werken, rapporterend aan het bestuur, nooit aan de bouwers. Zie three lines of defense, bewijs.Open full entry →, de AIGP body of knowledge voor de kwalificatie. Eén model, vele dialecten.