Compliance op control-niveau: de EU AI Act als geïnstrumenteerd systeem

Er zijn twee manieren om aan de EU AI ActEU AI ActVerordening (EU) 2024/1689, in het Nederlands de AI-verordening, de Europese wet over artificiële intelligentie. Ze hanteert een risicogebaseerde aanpak: verboden praktijken, eisen voor hoogrisico-AI-systemen, transparantieverplichtingen voor specifieke toepassingen en een apart regime voor AI-modellen voor algemene doeleinden (general-purpose AI). Verplichtingen zijn verdeeld tussen aanbieders en gebruiksverantwoordelijken. Zie hoogrisico-AI-systeem, general-purpose AI, conformiteitsbeoordeling.Open full entry → te voldoen, en op papier zien ze er bijna identiek uit. De eerste is om voor elke verplichting een beleid te schrijven: een AI-governancegovernanceHet stelsel waarmee een organisatie zichzelf bestuurt: corporate governance, risicobeheer, compliance, verantwoordingslijnen, risicobereidheid en het besturingsmodel. Het bestaat over alles wat de organisatie doet, voor en los van AI. AI governance is ditzelfde stelsel, uitgebreid voor AI. Zie AI governance, governance design, execution level.Open full entry →-beleid, een menselijk-toezicht-protocol, een datagovernance-beleid, een incidentresponse-procedure. De ordner is dik, elk artikel heeft een bijbehorend document, en een organisatie kan ernaar wijzen en zeggen dat ze compliant is. De tweede is om de verplichtingen in het systeem zelf in te bouwen, als controlscontrolDe concrete, toetsbare maatregel die een specifiek risico vermindert en daarmee het achterliggende principe beschermt. Ook wel risicobeheersmaatregel, risicorespons of risicobehandeling genoemd. Altijd herleidbaar tot het risico dat het adresseert: onder EU AI Act Art. 9 moet elke control terug te voeren zijn op een specifiek risico, en controls die los van hun risico's worden vastgelegd vormen een erkende compliance-fout. Het werkt in een van drie typen: preventief, detectief of correctief. Zie risico, control-typen, bewijs.Open full entry → die automatisch werken, bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry → produceren, en op verzoek kunnen worden gedemonstreerd. De ordner is dunner, omdat de meeste compliance in het systeem leeft in plaats van op papier.

Het verschil tussen de twee komt niet naar voren in een inkoopreview. Het komt naar voren wanneer een toezichthouder niet vraagt "heb je hier beleid voor" maar "laat me zien dat het werkte". Een beleid beschrijft wat zou moeten gebeuren. Een control is wat gebeurt, en de log is het bewijs dat het gebeurde. De technische artikelen van de EU AI Act zijn, in toenemende mate, geschreven om door de tweede soort compliance te worden vervuld. Ze beschrijven controls, geen aspiraties, en ze op control-niveau lezen onthult hoe een geïnstrumenteerd compliance-systeem er uitziet.

Wat de artikelen vragen, gelezen als controls

De technische verplichtingen van de EU AI Act vertalen, vrijwel één-op-één, naar systeem-controls. Zo gelezen houdt de verordening op een lijst dingen te zijn om over te schrijven, en wordt ze een specificatie voor dingen om te bouwen.

Automatische auditlogs (Art. 12 en Art. 19). Art. 12(1) vereist dat het systeem gedurende zijn levensduur automatisch logs genereert, en Art. 19(1) jo. Art. 26(6) dat ze minimaal zes maanden bewaard blijven. Fraudebestendigheid en onveranderlijkheid staan niet in Art. 12 of 19; dat is een verstandige control-keuze die u toevoegt, omdat een verslag dat stilzwijgend kan worden gewijzigd zwakker bewijs is. De wettelijke control is automatische generatie plus bewaring; de logs manipulatie-bestendig maken is uw eigen ontwerpkeuze daarbovenop.

Menselijk toezichtmenselijk toezichtHet ingebouwde vermogen van een mens om een AI-systeem te monitoren, erin in te grijpen, het te overrulen of stil te leggen, alleen betekenisvol wanneer de mens de bevoegdheid, de informatie en de tijd heeft om te handelen. Zie principe, human-in-the-loop, human-on-the-loop.Open full entry → met een noodstop (Art. 14(4)(e)). Het systeem moet een mens in staat stellen het in één handeling naar een veilige staat te brengen, en de handeling van het ingrijpen moet zelf worden gelogd. Dit is geen beleid dat stelt dat mensen de leiding hebben. Het is een mechanisme dat de control reëel maakt en een verslag dat bewijst dat het beschikbaar was en, indien gebruikt, gebruikt is.

Real-time gegevensbescherming (Art. 10). Gevoelige data wordt gemaskeerd of geredigeerd op inputniveau, vóór die het model bereikt. De control werkt bij de prompt, niet in een retrospectieve review, omdat het punt is de blootstelling te voorkomen in plaats van die achteraf te documenteren.

Configureerbaar blokkeerbeleid (Art. 26 en de verboden van Art. 5). Bepaalde gebruikscategorieën worden volledig geblokkeerd, afgedwongen door het systeem in plaats van ontmoedigd door een richtlijn. Dit is beleid als code, niet beleid als PDF: de regel wordt automatisch uitgevoerd, elke keer, in plaats van te vertrouwen op een persoon die het onthoudt en toepast.

Risicoscoring en incidentmelding (Art. 9 en Art. 73). RisicorisicoIn de termen van de EU AI Act de combinatie van de waarschijnlijkheid dat een schade optreedt en de ernst ervan als dat gebeurt. De schakel tussen een principe (via de schade die het zou schenden) en een control (de maatregel die het vermindert). Het benoemen van de schade en het inschatten van het risico is op grond van Art. 9 vereist voordat een maatregel wordt gekozen. Zie schade, control, restrisico.Open full entry →'s worden doorlopend gescoord via het risicobeheerssysteem, en ernstige incidenten worden binnen de termijn aan de bevoegde toezichthouder gemeld. De control is de geïnstrumenteerde pijplijn die detecteert, scoort en escaleert, met de meldingstermijn ingebouwd in plaats van overgelaten aan iemand om te onthouden.

Workspace-isolatie en rolgebaseerde toegang (Art. 14 en Art. 26). Verschillende dataclassificaties vereisen verschillende oppervlakken, afgedwongen door isolatie en toegangscontrole. Een gebruiker ziet en kan handelen op alleen wat zijn rol toestaat, en de grens is structureel in plaats van procedureel.

Samen gelezen zijn dit geen zes beleidsstukken. Het zijn zes controls, elk ingebouwd in het systeem, elk bewijs producerend, elk demonstreerbaar. Dat is hoe compliance er op control-niveau uitziet: geen beleidsdocument, maar een geïnstrumenteerd systeem.

Waarom het control-niveau het niveau is dat ertoe doet

Het pleidooi voor compliance op control-niveau is niet esthetisch. Het rust op drie eigenschappen die compliance op beleidsniveau mist.

De eerste is bewijsbaarheid. Een beleid beweert dat iets zou moeten gebeuren; een control, met zijn log, bewijst dat het gebeurde. Wanneer een toezichthouder onderzoekt, is de vraag altijd bewijsmatig. Een organisatie die de onveranderlijke log kan overleggen, het verslag dat het stopmechanisme beschikbaar was, de tijdstempel van de incidentmelding, beantwoordt de vraag. Een organisatie die alleen het beleid kan overleggen dat deze dingen beschrijft, heeft haar voornemens beschreven, niet haar gedrag.

De tweede is betrouwbaarheid. Een beleid hangt af van mensen die het onthouden en toepassen, elke keer, onder druk. Een control wordt automatisch uitgevoerd, elke keer, ongeacht wie er dienst heeft of hoe druk het is. Het als code afgedwongen blokkeerbeleid blokkeert de verboden categorie op de slechtste dag even betrouwbaar als op de beste. Het beleid als PDF is slechts zo betrouwbaar als de minst zorgvuldige persoon die het had moeten volgen.

De derde is schaalbaarheid. Een groeiende organisatie kan niet elke AI-interactie met de hand controleren. Controls schalen omdat ze deel van het systeem zijn; beleid doet dat niet, omdat het afhangt van menselijke aandacht die niet vermenigvuldigt. De organisatie die haar compliance instrumenteert, kan haar AI-gebruik laten groeien zonder haar compliance-risico evenredig te laten groeien. De organisatie die op beleid vertrouwt, merkt dat elk nieuw systeem, elke nieuwe gebruiker, elk nieuw gebruiksgeval de kloof verbreedt tussen wat het beleid zegt en wat er gebeurt.

De relatie met de zeven pijlers van verantwoorde AI

Compliance op control-niveau is de operationele uitdrukking van hetzelfde idee dat onder het kader van de zeven pijlerspijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry → ligt: verantwoorde AIverantwoorde AIHet geheel van principes waaraan een AI-systeem zou moeten voldoen: eerlijkheid, veiligheid en betrouwbaarheid, privacy, beveiliging en robuustheid, transparantie en uitlegbaarheid, verantwoording, en menselijk toezicht. Breed gedeeld en liggend onder de EU AI Act en de grote frameworks. Op zichzelf zijn de principes intentieverklaringen; de wet maakt er plichten van die alleen waargemaakt kunnen worden als ze in de governance van de organisatie zijn verankerd. Zo landt verantwoorde AI in governance in plaats van ernaast. De zeven principes worden geordend in een control-raamwerk van zeven pijlers, met één pijler per principe. Zie principe, pijler, governance.Open full entry → is een control-probleem, geen verklaring van waarden. Waar de zeven pijlers van verantwoorde AI de controls ordenen, ordent de control-niveau-lezing van de EU AI Act ze rond de specifieke artikelen. Het zijn twee views op hetzelfde systeem. Een onveranderlijke auditlog dient de accountabilityaccountabilityHet principe dat een benoemde persoon verantwoordelijkheid draagt voor wat een AI-systeem doet. Het faalt structureel en niet door nalatigheid: de aanbieder bouwde het model, de gebruiksverantwoordelijke draait het, en beide gaan ervan uit dat de ander de plicht draagt, totdat er iets misgaat en "het systeem deed het" de feitelijke positie van de organisatie blijkt te zijn. De EU AI Act hangt verplichtingen aan de rol en niet aan de technologie, met plichten voor de aanbieder in artikel 16 en voor de gebruiksverantwoordelijke in artikel 26, ondersteund door technische documentatie (artikel 11) en record-keeping (artikel 12). Zie aanbieder, gebruiksverantwoordelijke, record-keeping, verantwoorde AI.Open full entry →-pijler en voldoet aan Art. 12; een noodstop dient de menselijk-toezicht-pijler en voldoet aan Art. 14(4)(e); datamaskering dient de privacyprivacyHet principe dat persoonsgegevens die een AI-systeem gebruikt of voortbrengt binnen het doel en de grondslag blijven waarvoor ze zijn verzameld. Drie routes veroorzaken de meeste problemen: persoonsgegevens in trainingsmateriaal dat daar nooit voor bedoeld was, modeloutput die reproduceert wat het model heeft onthouden, en purpose creep, waarbij een systeem dat voor één gebruik is gebouwd afglijdt naar een ander gebruik dat de oorspronkelijke grondslag niet dekte. De AVG regelt dit volledig, en de EU AI Act voegt data governance-plichten toe voor hoogrisicosystemen (artikel 10). Zie DPIA, verantwoorde AI.Open full entry →-pijler als GDPR-dataminimalisatiedataminimalisatieAlleen data verwerken die toereikend, ter zake dienend en noodzakelijk is, in ML uitgevoerd via pseudonimisering, kenmerkselectie, synthetische data en privacyverhogende technieken. Zie pseudonimisering, bijzondere categorieën persoonsgegevens.Open full entry → en, voor deployers, Art. 26(4), niet Art. 10 (dat over de trainings-, validatie- en testdatasets gaat). Het kader en de verordening convergeren op dezelfde controls, wat het sterkst mogelijke teken is dat die controls de juiste zijn.

Wat dit in de praktijk betekent

Voor een organisatie die beslist hoe ze de EU AI Act aanpakt, is de keuze tussen de twee soorten compliance eigenlijk een keuze over waar het werk leeft. Compliance op beleidsniveau zet het schrijven vooraan en het risico achteraan: de ordner wordt snel geproduceerd, en de kloof tussen de ordner en de werkelijkheid wordt later ontdekt, meestal door een incident of een audit. Compliance op control-niveau zet de engineering vooraan en het vertrouwen achteraan: de controls kosten meer tijd om te bouwen, maar eenmaal gebouwd werken ze, bewijzen ze zichzelf, en schalen ze.

Dit is geen betoog dat beleid waardeloos is. De EU AI Act vereist documentatie, en beleid heeft een rol in het bepalen van richting en het toewijzen van verantwoordelijkheid. Het betoog gaat over waar het zwaartepunt ligt. In een compliance-programma gebouwd op beleid zijn de documenten de compliance en is het systeem een bijzaak. In een programma gebouwd op controls is het systeem de compliance en beschrijven de documenten het. Het eerste oogt compleet en faalt stilletjes. Het tweede oogt bescheiden en houdt stand.

Dat is hoe compliance er op control-niveau uitziet. Geen beleidsdocument. Een geïnstrumenteerd systeem.