Kort fortalt
Udbydere af AI-modeller med systemisk risiko skal ud over kravene i artikel 53 og 54 gøre fire ting: evaluere modellen efter standardiserede protokoller, herunder med dokumenteret kontradiktorisk afprøvning, og vurdere og afbøde mulige systemiske risici på EU-plan. De skal desuden uden unødigt ophold følge, dokumentere og indberette alvorlige hændelser og mulige afhjælpende tiltag til AI-kontoret og eventuelt nationale myndigheder. Endelig skal de sikre et tilstrækkeligt niveau af cybersikkerhed for modellen og dens fysiske infrastruktur. Overholdelse kan påvises med en praksiskodeks eller harmoniserede standarder.
Det betyder i praksis
Her kræves løbende processer for evaluering, risikovurdering, hændelseshåndtering og sikkerhed, ikke blot dokumenter. Open source-undtagelserne i artikel 53, stk. 2, og artikel 54, stk. 6, hjælper ikke, når modellen har systemisk risiko. Oplysninger, I afleverer, herunder forretningshemmeligheder, skal behandles fortroligt efter artikel 78.
Eksempel
Før lanceringen lader en udbyder af en meget stor model sin model gennemgå en dokumenteret afprøvning, hvor testere bevidst forsøger at fremkalde farlige svar. Efter lanceringen indgår modellen i et angreb, der alvorligt og uopretteligt forstyrrer driften af kritisk infrastruktur, hvilket er en alvorlig hændelse (artikel 3, nr. 49). Udbyderen skal uden unødigt ophold indberette hændelsen og mulige afhjælpende tiltag til AI-kontoret.
Ofte stillede spørgsmål
Hvilken frist gælder for at indberette en alvorlig hændelse?
Artikel 55 angiver ingen fast frist i timer eller dage, kun at hændelsen skal følges, dokumenteres og indberettes uden unødigt ophold til AI-kontoret og, hvor det er relevant, til de nationale kompetente myndigheder. Indberetningen skal omfatte relevante oplysninger og mulige korrigerende foranstaltninger.
Hvad er systemiske risici?
Risici, der er knyttet til de mest kapable modellers kapaciteter med stor virkning, og som har betydelig indvirkning på EU-markedet, enten på grund af modellens udbredelse eller på grund af negative virkninger for folkesundhed, sikkerhed, grundlæggende rettigheder eller samfundet, der kan brede sig i stor skala (artikel 3, nr. 65). Betragtning 110 nævner bl.a. større ulykker, forstyrrelser i kritiske sektorer og negative virkninger for demokratiske processer.
Gælder artikel 55 også, hvis vi bruger en andens model i vores AI-system?
Artiklen retter sig mod udbyderen af modellen. Bygger I blot modellen ind i jeres eget system, er I downstreamudbyder (artikel 3, nr. 68), og så gælder reglerne for AI-systemer for jeres system. Til gengæld skal modeludbyderen efter artikel 53, stk. 1, litra b), give jer de oplysninger, I har brug for.
Relevante betragtninger
Relaterede bestemmelser
- Artikel 53 – Forpligtelser for udbydere af AI-modeller til almen brug
- Artikel 54 – Bemyndigede repræsentanter for udbydere af AI-modeller til almen brug
- Artikel 56 – Praksiskodekser
- Artikel 51 – Klassificering af AI-modeller til almen brug som AI-modeller til almen brug med systemisk risiko
Den officielle ordlyd
1.
Ud over de forpligtelser, der er opført i artikel 53 og 54, skal udbydere af AI-modeller til almen brug med systemisk risiko:
a)
foretage modelevaluering i overensstemmelse med standardiserede protokoller og værktøjer, der afspejler det aktuelle tekniske niveau, herunder gennemførelse og dokumentation af kontradiktorisk afprøvning af modellen med henblik på at identificere og afbøde systemiske risici
b)
vurdere og afbøde mulige systemiske risici på EU-plan, herunder deres kilder, der kan skyldes udvikling, omsætning eller anvendelse af AI-modeller til almen brug med systemisk risiko
c)
uden unødigt ophold følge, dokumentere og indberette relevante oplysninger om alvorlige hændelser og mulige korrigerende foranstaltninger til håndtering heraf til AI-kontoret og, alt efter hvad der er relevant, til de nationale kompetente myndigheder
d)
sikre et tilstrækkeligt niveau af cybersikkerhedsbeskyttelse for AI-modellen til almen brug med systemisk risiko og modellens fysiske infrastruktur.
2.
Udbydere af AI-modeller til almen brug med systemisk risiko kan basere sig på praksiskodekser som omhandlet i artikel 56 for at påvise overholdelse af forpligtelserne i nærværende artikels stk. 1, indtil der er offentliggjort en harmoniseret standard. Overholdelse af europæiske harmoniserede standarder giver udbydere formodning om overensstemmelse, i det omfang disse standarder dækker disse forpligtelser. Udbydere af AI-modeller til almen brug med systemiske risici, som ikke overholder en godkendt praksiskodeks, eller som ikke overholder en europæisk harmoniseret standard, skal påvise alternative passende måder for overensstemmelse med henblik på Kommissionens vurdering.
3.
Alle de oplysninger eller al den dokumentation, der indhentes i henhold til denne artikel, herunder forretningshemmeligheder, behandles i overensstemmelse med fortrolighedsforpligtelserne fastsat i artikel 78.
Den konsoliderede danske tekst følger 2026-07-27 (CELEX 02024R1689-20260727).