Den Europæiske Unions (EU) lov om kunstig intelligens (AI) er den første omfattende lovgivning, der regulerer AI, og den sætter en global præcedens. I en ny analyse fremhæver forskere lovens dobbelte mål om at fremme innovation og samtidig sikre sikkerhed i AI-teknologier, især inden for sundhedsområdet. Analysen diskuterer også udfordringer ved implementering samt potentialet til at påvirke internationale standarder. “At være først er altid godt, men det betyder ikke nødvendigvis, at man gør det bedste,” reflekterer forskeren bag studiet.
I takt med at AI er i gang med så småt at omforme sundhedssektoren, vil EU’s nye AI-lov bane vejen for regulering af de nye fremskridt, især for digitale medicinske produkter. Selvom loven har til hensigt at sikre både sikkerhed og innovation, understreger forskere kompleksiteten ved at anvende de nye regler på AI-drevne medicinske apparater, hvor regulering skal kunne følge med den hurtige teknologiske udvikling.
“EU's AI-lov er den første robuste lovgivning, der retter sig mod det brede spektrum af AI-anvendelser, især inden for sundhedsområdet. Vores peger på betydelige udfordringer i implementeringen, især inden for udviklingen af medicinsk udstyr, hvor eksisterende systemer har svært ved passe ind. Vi har brug for en balance – for meget regulering kvæler innovation, men for lidt udsætter os for risici. Det er afgørende at finpudse de nye regler for effektivt at udnytte AI’s potentiale uden at gå på kompromis med sikkerheden,” forklarer Timo Minssen, professor og leder af Center for Advanced Studies in Bioscience Innovation Law ved Københavns Universitet.
Banebrydende fremskridt
I en ny artikel har Mateo Aboy, Director of Research in Technology & Law ved University of Cambridge, UK, Effy Vayena, Professor of Bioethics ved ETH Zürich, og Timo Minssen, Head of the Center for Advanced Studies in Bioscience Innovation Law ved Københavns Universitet, nøje analyseret de potentielle konsekvenser af den nye EU AI-lovgivning for reguleringen af digitale medicinske produkter.
Integrationen af AI i digitale medicinske produkter - som fx bærbare enheder til at måle blodsukker eller hjerterytme - kan skabe enorme fremskridt inden for sundhedsvæsenet, især inden for diagnostik og ligesom de kan udvide antallet af funktionaliteter i apparater.
For eksempel kan AI forbedre diagnostisk nøjagtighed i billeddiagnostiske apparater som dem, der anvendes til magnetisk resonansbilleddannelse og computertomografi, ved at identificere mønstre, som det menneskelige øje ikke kan opdage.
Men efterhånden som disse innovationer skabes, står virksomhederne over for betydelige udfordringer.
“En af de største udfordringer er at navigere i det regulative landskab, som kan føles som en jungle for virksomheder, der forsøger at implementere AI-teknologier på en effektiv og gennemførlig måde,” forklarer Timo Minssen. "Manglen på vejledning, kapacitet og ekspertise i de regulerende institutioner skaber usikkerhed for mange interessenter om, hvordan de skal sikre overholdelsen af et komplekst netværk af regler, og hvordan de spiller sammen og gælder for mange avancerede applikationer."
EU kom først
Det er især tydeligt inden for nye områder som genterapi, hvor AI potentielt kan forudsige resultaterne af genetiske ændringer, eller i sektoren for medicinsk udstyr, men de der regulerer området, kæmper også med at vurdere de avancerede anvendelser.
“I de her hurtigt udviklende områder er klare juridiske rammer afgørende,” tilføjer Minssen. “EU har gjort betydelige fremskridt med AI-loven, som har til formål at harmonisere det regulative miljø i hele Europa, på samme måde som den generelle forordning om databeskyttelse (GDPR) påvirkede databeskyttelse.”
Den regulering påvirker teknologier som AI-drevne chatbots, der anvendes til patientkontakt, i det den sikrer, at de overholder sikkerhedsstandarderne.
“EU kom først. Vi er ikke nødvendigvis de bedste, men vi var først. At være først er altid godt, men nogle gange betyder det ikke, at man gør det bedste. Vi mener, at der er risiko for overregulering på nogle områder og manglende kapacitet til at implementere teknologierne korrekt. Denne overregulering risikerer at kvæle innovationen, især for mindre aktører, der ikke kan overkomme de regulative byrder.”
Minssen tilføjer: Som vi har nævnt i en anden ny artikel, beskriver AI-loven nogle sikkerhedsforanstaltninger, der er beregnet til at støtte udviklingen af mindre AI-enheder, og den åbner op for nye vejledninger, mere fleksible former for regulering fra EU-Kommissionens side. Men tiltagene kræver stadig meget reguleringskapacitet, og hvor effektivt de kan indføres i Europa, er derfor endnu uvist.
En ny æra for AI i sundhedsvæsenet
Dette reducerer dog ikke EU's engagement i at etablere robuste reguleringsrammer.
“Med AI-loven sætter EU en global præcedens med omfattende AI-regler, der håndhæver de højeste standarder for sikkerhed og privatliv, uanset hvor producenten er placeret. Hvert eneste AI-produkt, der anvendes inden for EU's grænser, skal overholde disse strenge krav, hvilket sikrer ensartet og robust beskyttelse i alle medlemsstater.”
Et klart eksempel er mobile sundhedsapps, hvor små udviklere kan føle de omfattende krav som en stor forhindring, hvilket potentielt kan begrænse introduktionen af innovative sundhedsløsninger. For eksempel skal en sundhedsapp, der anvender AI til at overvåge hjerterytme og komme med sundhedsråd, nu sikre, at disse forslag er pålidelige og beskytter brugernes data i hele EU.
“Denne regulering indebærer betydelige udfordringer for globale producenter, da den gælder universelt for enhver enhed, hvis produkter anvendes inden for EU. Dette omfatter en bred vifte af produkter, inklusive de mere end 950 AI/maskinlæringsbaserede medicinske enheder, der allerede er godkendt af den amerikanske Food and Drug Administration, hvilket understreger den omfattende rækkevidde og påvirkning af EU's lovgivningsmæssige ramme."
Balanceringsakter og høje indsatser
Efterhånden som disse producenter navigerer gennem disse udfordringer, skal de også tilpasse sig de strenge nye klassifikationer, som EU har etableret.
“EU's AI-lov introducerer strenge kategorier for AI-systemer, især dem, der anvendes i medicinske produkter, hvor nogle klassificeres som højrisiko. Denne klassifikation kræver grundighed og streng overvågning, hvilket nødvendiggør, at udviklere implementerer en robust risikostyring for at sikre, at disse værktøjer opfylder høje standarder for sikkerhed og effektivitet til klinisk brug. Det handler om at balancere innovation med forbrugersikkerhed på tværs af alle EU-markeder.”
Et eksempel er et AI-system, der anvendes til at forudsige, hvordan patienter reagerer på forskellige kræftbehandlinger, hvilket nu kræver en omfattende valideringsproces for at sikre pålidelighed og sikkerhed.
“Da disse AI-systemer klassificeres som højrisiko, er kravet om robuste overholdelsesrammer afgørende. Dette betyder implementering af strenge risikostyrings- og datastyringsprotokoller for at tilpasse sig både AI-loven og GDPR. Målet er at sikre, at disse teknologier udvikles og anvendes under de højeste standarder for sikkerhed og privatliv.”
Skal rutinemæssigt opdatere deres algoritmer
I denne sammenhæng skal udbydere også tage højde for kompleksiteten i at opretholde overholdelse og sikre dataintegritet.
“Udbydere skal ikke kun navigere i den komplekse jungle af AI-regulering, men også sikre høje standarder for dataintegritet og gennemsigtighed. Dette kræver en robust ramme for løbende opdateringer og overvågning, som er afgørende for at tilpasse sig både fremskridtene inden for teknologi og det udviklende regulative landskab.”
Med den nye AI-lov skal udviklere af AI-diagnostiske værktøjer rutinemæssigt opdatere deres algoritmer og genvurdere for at opfylde de udviklende standarder, hvilket sikrer, at de forbliver sikre og effektive til klinisk brug.
“Ethvert produkt, der anvendes inden for EU, skal opfylde disse strenge krav, hvilket sikrer ensartet beskyttelse på tværs af alle markeder. Denne lov har til hensigt at være den første af sin slags, der er så omfattende og sætter en global standard.”
Førende, men ikke nødvendigvis bedst
Den ambitiøse tilgang præsenterer åbner både for nye muligheder og nye udfordringer.
“Den nye lov udgør en stor mulighed og en stor risiko. Vi risikerer at overregulere, hvilket kan kvæle den innovation, vi ønsker at fremme,” bemærker Timo Minssen. “Det handler om at finde den gyldne middelvej, hvor regulering og beskyttelse af fundamentale værdier kan sameksistere uden at svække Europas konkurrenceevne inden for digital sundhed og innovation."
I praksis introducerer loven strenge krav til overholdelse, især for medicinske apparater med AI og maskinlæring. Udviklere skal overholde både EU's forordning om medicinsk udstyr og AI-loven samt andre regler, som til tider overlapper, men også kan være i modstrid, hvilket potentielt kan føre til forvirring og øgede administrative byrder. For eksempel kan en AI-applikation designet til forudsigelse af hjertesygdomme kræve omfattende validering for både AI-specifikke og generelle medicinske standarder, hvilket kan forlænge udviklingscyklussen.
“Dette er især skræmmende for små og mellemstore virksomheder, som kan kæmpe med de ressourcer, der kræves for at opfylde disse standarder,” tilføjer Timo Minssen.
Navigering i kompleksiteter i en regulativ jungle
Ifølge Minssen er den største udfordring med EU’s AI-lov dens implementering på tværs af forskellige medlemsstater, hvilket skaber et komplekst regulativt landskab for de små og mellemstore virksomheder.
“De virksomheder er særligt sårbare over for de krav, der følger med compliance, fordi mange mangler de nødvendige ressourcer til at navigere i de komplekse krav,” forklarer han.
For startups, især dem, der udvikler AI-baserede mentale sundhedsplatforme eller andre innovative løsninger, kan det dobbelte landskab blive uforholdsmæssigt dyrt. Succesen med AI-loven afhænger derfor af regulatorernes, AI-leverandørernes og producenternes af digitale produkters parathed og samarbejde.
Minssen understreger vanskeligheden ved at ensrette AI-regulering på tværs af lande.
“AI-regulering er et bevægeligt mål. Initiativer som det europæiske er et skridt i den rigtige retning, men kompleksiteten af disse rammer gør implementeringen udfordrende. Uden omhyggelig styring er der risiko for forsinkelser eller forvirring, som i tilfælde hvor nye teknologier, som AI-drevne robotkirurgi-enheder, forsinkes på grund af forskellige fortolkninger af compliance-standarder på tværs af medlemsstater.”
