Art. 55 EU AI Act: verplichtingen voor GPAI-aanbieders met systeemrisico
Art. 55 stelt de aanvullende verplichtingen vast die alleen gelden voor aanbieders van AI-modellen voor algemene doeleinden met systeemrisico, bovenop de basisverplichtingen van Art. 53. Deze aanbieders moeten het model evalueren met state-of-the-art protocollen inclusief adversarial testing, systeemrisico's op Unieniveau beoordelen en mitigeren, ernstige incidenten onverwijld melden aan het AI Office, en een adequaat niveau van cyberbeveiliging voor het model en de fysieke infrastructuur waarborgen. Dit is het regime voor de kleine groep voorhoede-modellen.
De vier aanvullende verplichtingen
Art. 55 geldt bovenop, niet in plaats van, Art. 53. Een aanbieder waarvan het model onder Art. 51 als systeemrisico is geclassificeerd, draagt de basisverplichtingen en deze vier aanvullende.
Modelevaluatie en adversarial testing. De aanbieder moet modelevaluatie uitvoeren conform gestandaardiseerde protocollen en instrumenten die de stand van de techniek weerspiegelen, inclusief het uitvoeren en documenteren van adversarial testing van het model om systeemrisico's te identificeren en te mitigeren. Dit is de verplichting om het model actief te onderzoeken op gevaarlijke capaciteiten en faalwijzen, niet enkel om te documenteren wat het in normaal gebruik doet.
Beoordeling en mitigatie van systeemrisico. De aanbieder moet mogelijke systeemrisico's op Unieniveau beoordelen en mitigeren, inclusief hun bronnen, die kunnen voortkomen uit de ontwikkeling, het in de handel brengen, of het gebruik van het model. Dit is een continue risicomanagementplicht die opereert op het niveau van de samenleving en de Uniemarkt, niet alleen op het niveau van een individuele inzet.
Melding van ernstige incidenten. De aanbieder moet relevante informatie over ernstige incidenten en de genomen corrigerende maatregelen bijhouden, documenteren en onverwijld melden aan het AI Office en, waar passend, aan de nationale bevoegde autoriteiten.
Cyberbeveiliging. De aanbieder moet een adequaat niveau van cyberbeveiliging waarborgen voor het model en voor de fysieke infrastructuur van het model, in het besef dat een voorhoede-model zelf een doelwit van hoge waarde is.
Hoe naleving wordt aangetoond
Omdat geharmoniseerde normen voor deze verplichtingen niet bestonden toen ze van kracht werden, coördineerde het AI Office het hoofdstuk veiligheid en beveiliging van de Code of Practice voor AI voor algemene doeleinden om operationele betekenis te geven aan termen als state-of-the-art-evaluatie. De Code vertaalt de Art. 55-verplichtingen naar concrete maatregelen: red-teaming, capaciteitsevaluaties tegen benchmarks, het testen van jailbreak-weerstand, analyse van misbruikpotentieel, en een gestructureerd risicomanagementproces dat bij belangrijke inzetbeslissingen wordt geactiveerd. De Code is vrijwillig. Een aanbieder kan het gebruiken om naleving aan te tonen, maar een aanbieder die het niet ondertekent, moet aantonen dat hij op andere passende wijze aan de Art. 55-verplichtingen voldoet. Naleving van de Code is geen sluitend bewijs van naleving, en naleving van de Act is verplicht, of een aanbieder nu op de Code leunt of niet.
Timing en handhaving
De Art. 55-verplichtingen werden van toepassing op 2 augustus 2025. De handhavingsbevoegdheden van de Commissie over GPAI-aanbieders, inclusief formele verzoeken om informatie, de bevoegdheid om mitigatiemaatregelen te eisen, en administratieve boetes, beginnen op 2 augustus 2026. Het gat tussen de twee data is een bewuste overgangsperiode waarin aanbieders wettelijk gebonden zijn terwijl het AI Office zijn toezichtcapaciteit opbouwt en de Code wordt geoperationaliseerd. De Digital Omnibus die in mei 2026 is overeengekomen versterkte de centrale toezichtsrol van het AI Office over AI voor algemene doeleinden, maar stelde deze verplichtingen niet uit: anders dan de deadlines voor high-risk systemen gelden de GPAI-verplichtingen sinds augustus 2025 en blijven ze van kracht.
Waarom het ertoe doet
De meeste organisaties zullen nooit direct onder Art. 55 vallen, omdat het trainen van een model boven de systeemrisico-drempel ver buiten het bereik ligt van op een handvol aanbieders na. De relevantie is structureel. De foundation-modellen waarop gewone organisaties bouwen worden geleverd door precies de bedrijven die Art. 55 bindt, wat betekent dat die modellen wettelijk onderworpen zijn aan systematische veiligheidsevaluatie, adversarial testing en incidentmelding. Art. 55 is de bepaling die een veiligheidsverplichting bovenaan de waardeketen plaatst, waar de meest capabele modellen worden gemaakt.
In de GovCompass-7
Art. 55 reikt over meerdere pijlers. De kern ligt in de pijlers beveiliging en robuustheid en veiligheid en betrouwbaarheid, via de plichten inzake adversarial testing, risicomitigatie en cyberbeveiliging. De incidentmeldplicht verbindt met verantwoordelijkheid, en de modelevaluatieplicht ondersteunt transparantie over wat de meest capabele modellen kunnen.