Art. 52 EU AI Act: de notificatieprocedure voor systeemrisico
Art. 52 zet de procedure uiteen die aansluit op de systeemrisico-classificatie van Art. 51. Een aanbieder moet de Commissie onverwijld, en binnen twee weken, op de hoogte stellen wanneer zijn AI-model voor algemene doeleinden de systeemrisico-drempel haalt of naar verwachting zal halen. De aanbieder kan bij de melding aanvoeren dat zijn model geen systeemrisico vormt ondanks het overschrijden van de drempel. De Commissie houdt een openbare lijst bij van GPAI-modellen met systeemrisico.
De meldplicht
Art. 51 definieert wanneer een model systeemrisicosysteemrisicoCategorie van de EU AI Act voor de meest capabele general-purpose modellen (verondersteld boven een drempel van trainingsrekenkracht), wat extra plichten activeert: evaluaties, tegenwerkend testen, incidentmelding, cyberbeveiliging. Zie general-purpose AI-model, general-purpose AI.Open full entry → heeft; Art. 52 bepaalt wat een aanbiederaanbiederDe actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.Open full entry → daaraan moet doen. Wanneer een AI-model voor algemene doeleinden aan de voorwaarde voor systeemrisico voldoet, dat wil zeggen wanneer het de rekendrempel van 10^25 FLOP bereikt of redelijkerwijs naar verwachting zal bereiken, moet de aanbieder de Commissie op de hoogte stellen. De melding is onverwijld verschuldigd en in elk geval binnen twee weken na het moment waarop de aanbieder weet of zou moeten voorzien dat de drempel is bereikt. De drempel bereiken en nalaten te melden is op zichzelf een overtreding die de handhavingsbevoegdheden van de Commissie kunnen aanpakken.
Het vermoeden betwisten
De systeemrisico-drempel is een vermoeden, en Art. 52 bouwt de route in om dat te weerleggen. Samen met de melding kan een aanbieder argumenten aandragen om aan te tonen dat zijn model, bij wijze van uitzondering, geen systeemrisico vormt ondanks het halen van de rekendrempel, omdat het feitelijk geen capaciteiten met grote impact heeft die met de meest geavanceerde modellen overeenkomen. De Commissie beoordeelt die argumenten. Aanvaardt zij ze niet, dan wordt het model als systeemrisico geclassificeerd en gelden de Art. 55-verplichtingen.
De procedure loopt in de loop van de tijd ook de andere kant op. Een aanbieder waarvan het model als systeemrisico is geclassificeerd kan om een herbeoordeling verzoeken op basis van nieuwe, concrete redenen als de omstandigheden veranderen, zodat de classificatie niet permanent vastligt zodra ze is gemaakt.
De lijst van de Commissie
Art. 52 vereist dat de Commissie een openbare lijst publiceert en bijhoudt van de AI-modellen voor algemene doeleinden die als systeemrisico zijn geclassificeerd. Deze lijst is het transparantiemechanisme voor het systeemrisico-niveau: het maakt zichtbaar welke modellen onderworpen zijn aan het zwaardere Art. 55-regime, wat van belang is voor downstream-aanbiedersdownstream-aanbiederEen aanbieder die een AI-systeem bouwt boven op het model van een andere partij, vaak een general-purpose model, en de verplichtingen op zich neemt voor het systeem dat hij levert. Zie aanbieder, general-purpose AI-model.Open full entry → die deze modellen integreren en de regulatoire status moeten kennen van datgene waarop ze bouwen.
Waarom het ertoe doet
Voor de kleine groep aanbieders waarvan de modellen de voorhoede bereiken, is Art. 52 de operationele trigger die de Art. 51-classificatie omzet in een concrete plicht met een deadline. Voor alle anderen is de gepubliceerde lijst het bruikbare artefactartefactHet concrete record dat bewijst dat een control is uitgevoerd: een testrapport, een impactassessment, een monitoringlog, een release-sign-off. Een artefact is de tastbare vorm die bewijs aanneemt, het ding waar een auditor naar grijpt om te bevestigen dat een control niet alleen is ontworpen maar ook echt heeft gewerkt. Elke fase van de AI-levenscyclus levert haar eigen anker-artefact op. Onderscheiden van bewijs als geheel: bewijs is het bewijsmateriaal, een artefact is er één stuk van. Zie bewijs, levenscyclus.Open full entry →: het is hoe een downstream-organisatie kan bevestigen of een foundation-model waarop het leunt een systeemrisico-model is dat de volledige Art. 55-verplichtingen draagt.
In de zeven pijlers van verantwoorde AI
Art. 52 is een verantwoordelijkheids- en transparantiebepaling. De meldplicht wijst duidelijke verantwoordelijkheid toe aan de modelaanbieder, en de gepubliceerde lijst operationaliseert transparantietransparantieOpenheid over het feit dát AI wordt gebruikt en hoe het in het algemeen werkt: openbaarmakingen, documentatie, kennisgevingen. Vormt een paar met uitlegbaarheid, die over individuele uitkomsten gaat. Zie uitlegbaarheid, principe.Open full entry → op het niveau van de modelmarkt, zodat downstream-partijen de regulatoire status kunnen zien van de modellen die ze integreren.