Art. 55 EU AI Act: verplichtingen voor GPAI-aanbieders met systeemrisico
Art. 55 stelt de aanvullende verplichtingen vast die alleen gelden voor aanbieders van AI-modellen voor algemene doeleinden met systeemrisico, bovenop de basisverplichtingen van Art. 53. Deze aanbieders moeten het model evalueren met state-of-the-art protocollen inclusief adversarial testing, systeemrisico's op Unieniveau beoordelen en mitigeren, ernstige incidenten onverwijld melden aan het AI Office, en een adequaat niveau van cyberbeveiliging voor het model en de fysieke infrastructuur waarborgen. Dit is het regime voor de kleine groep voorhoede-modellen.
De vier aanvullende verplichtingen
Art. 55 geldt bovenop, niet in plaats van, Art. 53. Een aanbiederaanbiederDe actor die een AI-systeem ontwikkelt (of laat ontwikkelen) en het onder eigen naam op de markt brengt of in gebruik neemt, met fabrikantachtige plichten: ontwerpcontrols, documentatie, conformiteit. Zie gebruiksverantwoordelijke, AI-verplichtingen.Open full entry → waarvan het model onder Art. 51 als systeemrisicosysteemrisicoCategorie van de EU AI Act voor de meest capabele general-purpose modellen (verondersteld boven een drempel van trainingsrekenkracht), wat extra plichten activeert: evaluaties, tegenwerkend testen, incidentmelding, cyberbeveiliging. Zie general-purpose AI-model, general-purpose AI.Open full entry → is geclassificeerd, draagt de basisverplichtingen en deze vier aanvullende.
Modelevaluatie en adversarial testing. De aanbieder moet modelevaluatie uitvoeren conform gestandaardiseerde protocollen en instrumenten die de stand van de techniek weerspiegelen, inclusief het uitvoeren en documenteren van adversarial testing van het model om systeemrisico's te identificeren en te mitigeren. Dit is de verplichting om het model actief te onderzoeken op gevaarlijke capaciteiten en faalwijzen, niet enkel om te documenteren wat het in normaal gebruik doet.
Beoordeling en mitigatie van systeemrisico. De aanbieder moet mogelijke systeemrisico's op Unieniveau beoordelen en mitigeren, inclusief hun bronnen, die kunnen voortkomen uit de ontwikkeling, het in de handel brengen, of het gebruik van het model. Dit is een continue risicomanagementplicht die opereert op het niveau van de samenleving en de Uniemarkt, niet alleen op het niveau van een individuele inzet.
Melding van ernstige incidenten. De aanbieder moet relevante informatie over ernstige incidenten en de genomen corrigerende maatregelen bijhouden, documenteren en onverwijld melden aan het AI Office en, waar passend, aan de nationale bevoegde autoriteiten.
Cyberbeveiliging. De aanbieder moet een adequaat niveau van cyberbeveiliging waarborgen voor het model en voor de fysieke infrastructuur van het model, in het besef dat een voorhoede-model zelf een doelwit van hoge waarde is.
Hoe naleving wordt aangetoond
Omdat geharmoniseerde normengeharmoniseerde normEen Europese norm (in het Engels: harmonized standard) die op verzoek van de Europese Commissie is ontwikkeld. Onder Artikel 40 van de EU AI Act geeft naleving van geharmoniseerde normen die in het Publicatieblad zijn gepubliceerd een vermoeden van conformiteit met de eisen die die normen dekken. Geharmoniseerde normen voor de AI Act zijn nog in ontwikkeling. Zie conformiteitsbeoordeling, EU AI Act.Open full entry → voor deze verplichtingen niet bestonden toen ze van kracht werden, coördineerde het AI Office het hoofdstuk veiligheid en beveiliging van de Code of Practice voor AI voor algemene doeleinden om operationele betekenis te geven aan termen als state-of-the-art-evaluatie. De Code vertaalt de Art. 55-verplichtingen naar concrete maatregelen: red-teaming, capaciteitsevaluaties tegen benchmarks, het testen van jailbreakjailbreakEen prompt of techniek die de veiligheidsmaatregelen van een AI-systeem omzeilt om het beperkte uitvoer te laten produceren. Zie prompt injection, red teaming.Open full entry →-weerstand, analyse van misbruikpotentieel, en een gestructureerd risicomanagementproces dat bij belangrijke inzetbeslissingen wordt geactiveerd. De Code is vrijwillig. Een aanbieder kan het gebruiken om naleving aan te tonen, maar een aanbieder die het niet ondertekent, moet aantonen dat hij op andere passende wijze aan de Art. 55-verplichtingen voldoet. Naleving van de Code is geen sluitend bewijsbewijsHet concrete bewijs dat een control is ontworpen, geïmplementeerd en werkt: een testrapport, een audit trail, een impactassessment, een monitoringlog. Elke schakel in de governance-keten levert een artefact op, en samen zijn ze wat een organisatie overhandigt aan haar eigen bestuur, een toezichthouder, een klant of een betrokkene om te tonen, niet te zeggen, dat een systeem bestuurd is. De afwezigheid ervan is zelf het falen: een risicoregister zonder testresultaten, of een maatregel die wordt geclaimd zonder validatie, is een governance-gat, geen papierwerk-gat. De sluitende schakel van de governance-keten. Zie control, governance.Open full entry → van naleving, en naleving van de Act is verplicht, of een aanbieder nu op de Code leunt of niet.
Timing en handhaving
De Art. 55-verplichtingen werden van toepassing op 2 augustus 2025. De handhavingsbevoegdheden van de Commissie over GPAI-aanbieders, inclusief formele verzoeken om informatie, de bevoegdheid om mitigatiemaatregelen te eisen, en administratieve boetes, beginnen op 2 augustus 2026. Het gat tussen de twee data is een bewuste overgangsperiode waarin aanbieders wettelijk gebonden zijn terwijl het AI Office zijn toezichtcapaciteit opbouwt en de Code wordt geoperationaliseerd. De Digital OmnibusDigital OmnibusEen wijzigingspakket van de EU dat delen van de EU AI Act aanpast, waaronder de toepassingsdata voor hoog-risicoverplichtingen. Per juli 2026 is het aangenomen door het Europees Parlement en de Raad en wacht het op publicatie in het Publicatieblad; verifieer de actuele status en data tegen de officiële tekst. Zie EU AI Act.Open full entry → die in mei 2026 is overeengekomen versterkte de centrale toezichtsrol van het AI Office over AI voor algemene doeleinden, maar stelde deze verplichtingen niet uit: anders dan de deadlines voor high-risk systemen gelden de GPAI-verplichtingen sinds augustus 2025 en blijven ze van kracht.
Waarom het ertoe doet
De meeste organisaties zullen nooit direct onder Art. 55 vallen, omdat het trainen van een model boven de systeemrisico-drempel ver buiten het bereik ligt van op een handvol aanbieders na. De relevantie is structureel. De foundation-modellen waarop gewone organisaties bouwen worden geleverd door precies de bedrijven die Art. 55 bindt, wat betekent dat die modellen wettelijk onderworpen zijn aan systematische veiligheidsevaluatie, adversarial testing en incidentmelding. Art. 55 is de bepaling die een veiligheidsverplichting bovenaan de waardeketenwaardeketenDe reeks actoren van modelontwikkeling via levering tot uitrol en gebruik, waarlangs verantwoordelijkheden en AI Act-verplichtingen zich verplaatsen. Zie toeleveringsketen, AI-verplichtingen.Open full entry → plaatst, waar de meest capabele modellen worden gemaakt.
In de zeven pijlers van verantwoorde AI
Art. 55 reikt over meerdere pijlerspijlerEen principe van verantwoorde AI als iets dat een organisatie actief borgt in plaats van louter onderschrijft: een van de zeven pijlers van verantwoorde AI, één per principe. Een pijler wordt geborgd, niet geïmplementeerd, door de schades te benoemen die het principe zouden schenden, hun risico in te schatten, en controls te plaatsen die het verminderen. Onderscheiden van agentic AI, die geen van de zeven is maar een conditie die verandert hoe ze alle zeven worden bestuurd. Zie principe, schade, risico, agentic AI.Open full entry →. De kern ligt in de pijlers beveiliging en robuustheidbeveiliging en robuustheidHet principe dat een AI-systeem aanvallen, manipulatie en tegenwerkende of onverwachte invoer weerstaat. De aanvalsvectoren omvatten data poisoning, modelextractie, membership inference en prompt injection; de controls zijn ML-beveiligingstesten en een geharde data- en modelpijplijn. Zie robuustheid, principe, control.Open full entry → en veiligheid en betrouwbaarheid, via de plichten inzake adversarial testing, risicomitigatie en cyberbeveiliging. De incidentmeldplicht verbindt met verantwoordelijkheid, en de modelevaluatieplicht ondersteunt transparantietransparantieOpenheid over het feit dát AI wordt gebruikt en hoe het in het algemeen werkt: openbaarmakingen, documentatie, kennisgevingen. Vormt een paar met uitlegbaarheid, die over individuele uitkomsten gaat. Zie uitlegbaarheid, principe.Open full entry → over wat de meest capabele modellen kunnen.