Art. 51 EU AI Act: een GPAI-model classificeren als systeemrisico
Art. 51 bepaalt wanneer een AI-model voor algemene doeleinden wordt geclassificeerd als model met systeemrisico. Een model komt in de systeemrisico-categorie wanneer het capaciteiten met grote impact heeft, wat wordt vermoed zodra de cumulatieve rekenkracht die voor de training is gebruikt meer dan 10^25 floating-point operaties (FLOP) bedraagt, of wanneer de Commissie het als zodanig aanwijst. Classificatie als systeemrisico activeert de aanvullende verplichtingen van Art. 55 bovenop de basisverplichtingen van Art. 53 die voor elke GPAI-aanbieder gelden.
Wat Art. 51 doet
De EU AI Act reguleert AI voor algemene doeleinden op het niveau van het model, niet van het systeem. Hoofdstuk V creëert een gelaagd regime: elke aanbieder van een AI-model voor algemene doeleinden draagt de basisverplichtingen van Art. 53, en een kleinere groep waarvan de modellen een hogere capaciteitsdrempel halen draagt de aanvullende, zwaardere verplichtingen van Art. 55. Art. 51 is de poort tussen de twee niveaus. Het definieert wanneer een GPAI-model wordt geclassificeerd als een AI-model voor algemene doeleinden met systeemrisico.
De twee routes naar systeemrisico
Een model wordt via een van twee routes als systeemrisico geclassificeerd.
De eerste is capaciteiten met grote impact. Een model heeft systeemrisico als het capaciteiten met grote impact heeft, beoordeeld met passende technische instrumenten, methodologieën en benchmarks. Art. 51(2) hangt hier een vermoeden aan: een model wordt vermoed capaciteiten met grote impact te hebben wanneer de cumulatieve rekenkracht die voor de training is gebruikt, gemeten in floating-point operaties, meer dan 10^25 FLOP bedraagt. Deze rekendrempel is de praktische trigger die de huidige voorhoede van de meest geavanceerde modellen vangt.
De tweede is aanwijzing door de Commissie. Los van het rekenvermoeden kan de Commissie een model als systeemrisico aanwijzen op basis van de criteria in Annex XIII, wanneer het capaciteiten of impact heeft die gelijkwaardig zijn aan die welke door de drempel worden gevangen. Deze route laat het regime een model vangen dat systeemrisico vormt om andere redenen dan pure trainingsrekenkracht.
De drempel ligt niet vast
De drempel van 10^25 FLOP is een vermoeden, geen onverzettelijke lijn. Art. 51(3) geeft de Commissie de bevoegdheid om de drempels te wijzigen en de benchmarks en indicatoren aan te vullen via gedelegeerde handeling, zodat de classificatie de technologische ontwikkeling bijhoudt. Naarmate trainen efficiënter wordt, kan dezelfde capaciteitsvoorhoede met minder rekenkracht worden bereikt, dus de drempel kan in de loop van de tijd worden verlaagd om alleen de werkelijk meest capabele modellen te blijven vangen. Een aanbieder waarvan het model de rekendrempel overschrijdt kan het systeemrisico-vermoeden ook betwisten door aan te tonen dat het model, ondanks de rekenkracht, geen capaciteiten met grote impact heeft die met de meest geavanceerde modellen overeenkomen.
Waarom het ertoe doet
Classificatie als systeemrisico is ingrijpend omdat het de lijn is die het basis-GPAI-regime scheidt van het voorhoede-modelregime. Onder de lijn draagt een aanbieder de Art. 53-verplichtingen: technische documentatie, downstream-transparantie, een auteursrechtbeleid, en een openbare samenvatting van de trainingsinhoud. Boven de lijn draagt de aanbieder daarnaast de Art. 55-verplichtingen: modelevaluatie en adversarial testing, beoordeling en mitigatie van systeemrisico, melding van ernstige incidenten aan het AI Office, en cyberbeveiliging van het model. Voor de meeste organisaties is de praktische relevantie indirect: de foundation-modellen waarop ze bouwen worden doorgaans geleverd door de kleine groep bedrijven waarvan de modellen deze drempel overschrijden, wat betekent dat die modellen wettelijk onderworpen zijn aan systematische veiligheidsevaluatie.
In de GovCompass-7
Art. 51 is primair een verantwoordelijkheidsbepaling: het bepaalt welke partij welke set verplichtingen op modelniveau draagt. Het systeemrisico-regime dat het opent reikt ook in de pijlers beveiliging en robuustheid en veiligheid en betrouwbaarheid, omdat de Art. 55-verplichtingen die het activeert gaan over het evalueren, mitigeren en beveiligen tegen risico op modelniveau.