Kort fortalt
Udbydere af højrisiko-AI-systemer skal overvåge, hvordan systemerne klarer sig, efter at de er på markedet. Overvågningen skal være dokumenteret, stå i forhold til systemets risici og bygge på en plan, som er en del af den tekniske dokumentation. Den skal give udbyderen mulighed for at se, om systemet fortsat opfylder kravene i kapitel 3, afdeling 2. Kommissionen skal udarbejde vejledning med en skabelon til planen senest den 2. september 2027.
Det betyder i praksis
Beslut allerede ved udviklingen, hvilke driftsdata I vil samle ind (fx fra kunder, der bruger systemet), hvordan I analyserer dem, og hvem der handler på resultatet. Planen skal ligge i den tekniske dokumentation efter bilag IV.
Eksempel
Et firma sælger et hypotetisk rekrutteringssystem, som sorterer ansøgninger. Det indsamler løbende tilbagemeldinger fra kundernes HR-afdelinger og kontrollerer periodisk, om systemets resultater har ændret sig eller rammer bestemte grupper skævt. Metoden og intervallerne står i overvågningsplanen.
Ofte stillede spørgsmål
Skal idriftsættere også indsende data til udbyderen om systemets ydeevne?
Artiklen siger, at overvågningen indsamler relevante data, som idriftsætterne kan afgive, eller som kan hentes fra andre kilder. Den pålægger altså ikke idriftsætterne en selvstændig pligt her. Idriftsætteres egne pligter, herunder at underrette udbyderen, står i artikel 26.
Kan en bank bygge overvågningen ind i sine eksisterende systemer og planer?
Ja, hvis det opnår tilsvarende beskyttelse. For højrisiko-systemer, der bringes i omsætning eller ibrugtages af finansielle institutioner inden for bilag III, punkt 5 (fx kreditvurdering), og som er underlagt EU-krav om intern ledelse, kan de nødvendige elementer indbygges i eksisterende systemer og planer, hvis beskyttelsesniveauet er tilsvarende.
Omfatter overvågningen politiets driftsdata?
Nej. Forpligtelsen omfatter ikke følsomme operationelle data om idriftsættere, som er retshåndhævende myndigheder.
Relevante betragtninger
Relaterede bestemmelser
- Artikel 73 – Indberetning af alvorlige hændelser
- Artikel 26 – Forpligtelser for idriftsættere af højrisiko-AI-systemer
- Artikel 79 – Procedure på nationalt plan i tilfælde af AI-systemer, der udgør en risiko
Den officielle ordlyd
1.
Udbyderne skal oprette og dokumentere et system til overvågning efter omsætningen på en måde, der står i et rimeligt forhold til arten af AI-teknologierne og risiciene ved højrisiko-AI-systemet.
2.
Systemet til overvågning efter omsætningen indsamler, dokumenterer og analyserer relevante data, som idriftsætterne kan afgive, eller som kan indsamles via andre kilder, om højrisiko-AI-systemers ydeevne i hele deres levetid, og som giver udbyderen mulighed for at evaluere, at AI-systemerne løbende overholder de i kapitel III, afdeling 2, fastsatte krav. Hvis det er relevant, skal overvågning efter omsætningen omfatte en analyse af interaktionen med andre AI-systemer. Denne forpligtelse omfatter ikke følsomme operationelle data om idriftsættere, som er retshåndhævende myndigheder.
3.
Systemet til overvågning efter omsætningen skal baseres på en plan for overvågning efter omsætningen. Planen for overvågning efter omsætningen skal være en del af den tekniske dokumentation, der er omhandlet i bilag IV. Kommissionen vedtager senest den 2. september 2027, under størst mulig hensyntagen til AI-udvalgets udtalelse, vejledning, herunder en skabelon, for planen for overvågning efter omsætningen.
4.
For højrisiko-AI-systemer, der er omfattet af EU-harmoniseringslovgivningen, som er opført i bilag I, afsnit A, hvor der allerede er etableret et system til og en plan for overvågning efter omsætningen i henhold til nævnte lovgivning, skal udbyderne med henblik på at sikre sammenhæng, undgå overlap og minimere yderligere byrder have mulighed for, alt efter hvad der er relevant, at integrere de nødvendige elementer, der er beskrevet i stk. 1, 2 og 3, ved hjælp af den model, der er omhandlet i stk. 3, i allerede eksisterende systemer og planer i henhold til nævnte lovgivning, forudsat at dette opnår et tilsvarende beskyttelsesniveau.
Dette stykkes første afsnit finder også anvendelse på de i bilag III, punkt 5, omhandlede højrisiko-AI-systemer, der bringes i omsætning eller ibrugtages af finansielle institutioner, som er underlagt krav i henhold til EU-retten om finansielle tjenesteydelser for så vidt angår deres interne ledelse, ordninger eller processer.
Den konsoliderede danske tekst følger 2026-07-27 (CELEX 02024R1689-20260727).