Højrisiko-AI-systemer under EU's AI-forordning

EU's AI-forordning klassificerer visse AI-anvendelsestilfælde som højrisiko. Hvis dit system falder ind under en af disse kategorier, påhviler der dig en række forpligtelser, før du lovligt kan bringe det på markedet i EU.

Bilag III-kategorier forklaret i almindeligt sprog

• Biometrisk identifikation og kategorisering af fysiske personer
• Forvaltning af kritisk infrastruktur (energi, vand, trafik)
• Uddannelse og erhvervsuddannelse (optagelse, bedømmelse, overvågning af eksaminer)
• Beskæftigelse (rekruttering, opgavefordeling, præstationsevaluering)
• Adgang til væsentlige private og offentlige tjenester (kreditvurdering, sociale ydelser, forsikring)
• Retshåndhævelse, migration, grænsekontrol, retsvæsen
• Demokratiske processer (f.eks. påvirkning af valg)

Centrale forpligtelser for udbydere

1. Risikostyringssystem gennem hele livscyklussen
2. Data og datastyring – repræsentative, relevante, fejlfrie
3. Teknisk dokumentation (bilag IV) og opdateret
4. Dokumentation – automatisk logføring af hændelser
5. Gennemsigtighed og information til implementeringsbrug
6. Menneskelig tilsyn integreret i systemet
7. Nøjagtighed, robusthed, cybersikkerhed med deklarerede ydeevneparametre
8. Kvalitetsstyringssystem, der dækker hele organisationen
9. Overensstemmelsesvurdering, CE-mærkning, registrering i EU-database
10. Overvågning efter markedsføring og hændelsesrapportering

Hvor de fleste teams undervurderer indsatsen

• Etablering af en reel datastyringsproces (ikke en PowerPoint-præsentation)
• Udarbejdelse af bilag IV teknisk dokumentation på det niveau, som myndighederne forventer
• Design af menneskeligt tilsyn, der er meningsfuld, ikke kosmetisk
• Opsætning af overvågning efter markedsføring med reel telemetri

Hvis dit produkt berører HR, kredit, sundhed, uddannelse, forsikring eller offentlige tjenester – antag højrisiko, indtil det modsatte er bevist, og begynd at opbygge dokumentationssporet nu.