Forstå EU’s AI-forordning: Et banebrydende skridt i reguleringen af kunstig intelligens

AI’s hurtige udbredelse i erhvervslivet har potentiale til at frigøre betydelige produktivitetsgevinster og give værdifuld støtte til medarbejdere. Ifølge Eurostat anvender 42 % af store virksomheder (250+ ansatte) allerede AI, mens 13 % af mindre virksomheder (10+ ansatte) er begyndt at tage teknologien i brug.

Men efterhånden som AI-teknologier udvikler sig og spredes, vokser også risiciene — fra bekymringer om databeskyttelse på grund af omfattende træningsdatasæt, til kriminel misbrug i cyberangreb, algoritmisk bias, brud på privatlivets fred og etiske udfordringer som manipulation og trusler mod menneskerettigheder.

Som svar herpå har EU indført verdens første omfattende lovgivning om kunstig intelligens – Den Europæiske Forordning om Kunstig Intelligens (AI-forordningen) – for at sikre ansvarlig udvikling og anvendelse af AI, samtidig med at borgernes sundhed, sikkerhed og grundlæggende rettigheder beskyttes.

Så hvad er EU’s AI-forordning, og hvorfor er den vigtig – både for virksomheder og for samfundet som helhed? Lad os se nærmere på det.

Hvad er EU’s AI-forordning?  

EU’s AI-forordning, der blev vedtaget den 1. august 2024 og træder fuldt i kraft den 2. august 2026, regulerer AI-systemer, der påvirker mennesker i EU – også selvom de er udviklet uden for regionen.

Formålet er at reducere risici som brud på privatlivets fred, bias (skævhed), manipulation og fysisk skade ved at stille krav om gennemsigtighed, etiske beskyttelsesforanstaltninger og menneskelig kontrol:

• Gennemsigtighed: AI-systemer skal tydeligt forklare, hvordan de fungerer, og hvilke risici de indebærer. Hvis et AI-system interagerer direkte med mennesker (f.eks. chatbots), skal det være klart, at der er tale om et AI-system.
• Etiske beskyttelsesforanstaltninger: Forordningen klassificerer AI efter risikoniveau, forbyder de mest skadelige systemer og stiller strenge krav til højrisiko-systemer.

• Menneskelig kontrol:
  
  Aspektet om “menneskelig kontrol” er særligt vigtigt for højrisiko-AI-systemer. Det skal sikre, at mennesker kan overvåge, forstå og styre, hvordan systemerne fungerer. Højrisiko-AI skal være designet på en måde, der tillader menneskelig indgriben, så brugere kan verificere, at systemet fungerer sikkert, og gribe ind, hvis noget går galt. Målet er at forhindre skade på individers sundhed, sikkerhed eller grundlæggende rettigheder. Udviklere, udbydere og operatører er ansvarlige for at sikre datakvalitet, gennemføre risikovurderinger og opretholde gennemsigtighed i, hvordan AI-systemer fungerer.
  
  Højrisiko-systemer skal desuden registreres i en offentlig database, og hændelser skal rapporteres. Overholdelse sikres gennem overensstemmelsesvurderinger, certificeringer og betydelige sanktioner ved overtrædelser.

De potentielle bøder for manglende overholdelse kan være meget alvorlige – op til 35 millioner euro eller op til 7 % af en virksomheds samlede globale årlige omsætning for det foregående regnskabsår, alt efter hvilket beløb der er højest.

Hvem bliver berørt af AI-forordningen?

AI-forordningen berører både EU-borgere og alle organisationer, der opererer i EU eller leverer tjenester til EU. De fem berørte grupper omfatter:

• AI-udviklere og -udbydere: Skal overholde reglerne, hvis deres systemer udgør en høj risiko eller kræver gennemsigtighed.
• Brugere af højrisiko-AI: Når AI anvendes i følsomme områder som rekruttering, bank/kredit, sundhedspleje/hospitaler eller offentlige tjenester, skal der være streng kontrol og risikostyring.
• Distributører og importører: Skal sikre, at systemerne overholder EU’s krav, før de bringes på markedet.
• Ikke-EU-virksomheder: Skal overholde reglerne, hvis deres AI-løsninger påvirker brugere i EU.
• Forbrugere: De fleste mennesker vil på en eller anden måde være forbrugere af AI. Selvom de ikke er direkte reguleret, har forordningen til formål at beskytte deres rettigheder og sikkerhed.

Muligheder og udfordringer

Selvom AI-forordningen indfører nye regler, der skal overholdes, giver den også en række fordele for virksomheder:

• Ved at etablere klare standarder styrker den forbrugernes tillid og øger troværdigheden over for kunder, investorer og samarbejdspartnere.
• Den hjælper også med at reducere juridiske og omdømmemæssige risici, som kan opstå, hvis brugere lider skade som følge af AI-anvendelse.
• Den giver virksomheder tydelige retningslinjer for udvikling og drift af AI-systemer inden for EU.
• AI-forordningen motiverer virksomheder til at etablere klare regler for håndtering af AI og til bedre at kontrollere deres processer. Det forbedrer beslutningstagningen i virksomheden og øger AI-systemernes pålidelighed. Samtidig bliver det lettere for virksomheder at tilpasse sig andre nuværende eller fremtidige AI-regler.

Men selvom forordningen styrker sikkerhed og styring, kan den også skabe udfordringer for virksomheder – især for små og mellemstore virksomheder og start-ups:

• Højrisiko-systemer kan få øgede omkostninger på grund af krav om risikovurderinger og dokumentation, hvilket kan forsinke udvikling og markedsadgang.
• Samtidig kan virksomheder i regioner med mere lempelige regler innovere hurtigere og dermed få en konkurrencefordel over EU-virksomheder.
• Forskellige håndhævelsesmetoder på tværs af EU’s medlemsstater kan også skabe usikkerhed.

Konica Minoltas tilgang til etisk og compliant AI

Konica Minolta er forpligtet til at udvikle etisk og gennemsigtig AI, der overholder EU’s AI-forordning og samtidig fremmer innovation. Vi gennemfører risikovurderinger, som bliver vurderet af vores AI-etikudvalg, og understøtter ansvarlig udvikling og drift gennem træning af udviklere og nøgleinteressenter, med støtte fra dedikerede teams som vores AI Task Force, Databeskyttelsesafdeling og interne compliance-enheder. Vi anvender teknologier som anonymisering og kryptering for at sikre overholdelse af EU AI-forordningens krav.

Ud over overholdelse af reglerne er vores mål at være førende inden for ansvarlig AI. Ved at indarbejde disse principper i alle udviklingsfaser sikrer vi ikke blot overholdelse af lovgivningen, men skaber også merværdi for kunderne gennem sikre, pålidelige og avancerede AI-løsninger.

De følgende AI-løsninger fra Konica Minolta overholder allerede bestemmelserne i AI-forordningen:

• Workplace Pure: En cloud-baseret platform, der kombinerer flere dokumenthåndteringstjenester. Blandt disse er en AI-baseret oversættelsestjeneste, som kan anvendes via browser eller kontrolpanelet på en bizhub multifunktionsprinter (MFP). Dette gør det muligt hurtigt og nemt at oversætte dokumenter fra næsten ethvert kildesprog til næsten ethvert målsprog – når som helst og hvor som helst. Løsningen hostes i EU-baserede Open Telekom Cloud-datacentre for at sikre fuld GDPR-overholdelse og anvender avanceret HTTPS-kryptering til beskyttelse af information under overførsel.
• VSS (Video Solution Services): Konica Minoltas Video Solution Services integrerer avanceret billedteknologi med AI-drevet analyse for at forbedre sikkerhed, effektivitet og drift i forskellige brancher. Eksempler på anvendelser omfatter overvågning af produktionslinjer, sikring af bygninger og forbedring af sundhedsmiljøer. Funktioner som ansigtsgenkendelse eller adfærdsanalyse behandles sikkert og i overensstemmelse med databeskyttelsesregler som GDPR og AI-forordningen.
• FORXAI Mirror: FORXAI Mirror anvender AI-teknologi til at øge sikkerheden på arbejdspladsen. Den sikrer adgang til farlige produktionsområder og reducerer risikoen for forurening ved at sikre, at medarbejdere kun træder ind i produktionsområdet med det personlige beskyttelsesudstyr (PPE), som virksomheden kræver. Systemet registrerer afvigelser i PPE i realtid. Løsningen kan integreres i eksisterende adgangskontrolsystemer og følger nøje principperne i EU AI-forordningen – med fokus på privatliv, gennemsigtighed, risikovurdering og forklarlighed gennem kryptering og grundig test af AI-modeller.