Transparens och ansvar inom AI
I början av december 2022 antog Europeiska unionens råd en allmän riktlinje gällande rättsakten om artificiell intelligens (AI-lagen). Efter det har arbetet med AI-lagen pågått flitigt i Europaparlamentet och i ändringsförslag föreslås bland annat att AI-system som genererar komplext textinnehåll och saknar mänsklig kontroll, ska märkas som producerade av AI.  Ytterligare ett förslag ger användare, av så kallade högrisk AI-system, uppdraget att göra en konsekvensbedömning av potentiella risker och systemets inverkan på användningsområdet innan det tas i bruk. Ambitionen är genomgående att tillämpning av AI behöver bli mer transparent och att grundläggande rättigheter, inkluderat människors säkerhet och försörjning, behövs tas i beaktning innan AI-system tas i bruk.  

Knäckfrågor inom AI-akten
Tre av de stora knäckfrågorna som diskuteras i Europaparlamentet berör klassificeringen av högrisk AI-system, vilka skyldigheter utvecklare av AI-system har och hur innovation inom AI kan främjas. Två aspekter gällande klassificeringen av AI som högrisksystem rör å ena sidan huruvida AI-system skulle kunna påverka individers hälsa, säkerhet eller grundläggande rättigheter negativt och även om de används inom sektorer som utbildning, sysselsättning eller hälsa. Den andra knäckfrågan rör skyldigheter för utvecklare av AI-system kategoriserade som högrisk. Inom den behandlas frågor som riskhantering, potentiella missbruk och datastyrning. För att möta svårigheterna understryks kravet på transparens från distributörer, importörer och användare av AI-system.

Den tredje knäckfrågan gäller innovativa åtgärder, specifikt så kallade “sandlådor”. Sandlådorna förväntas erbjuda en kontrollerad testmiljö av AI, samt möjliggöra utveckling och validering av innovativa AI-system. Förutom att de ger innovatörer möjlighet att under kontrollerade former testa sina innovationer, kan tillsynsmyndigheter bättre förstå tekniken, vilket främjar konsumenternas val långsiktigt. Sandlådorna kan däremot innebära risk för missbruk och Europaparlamentet har därför flertalet gånger lyft behovet av reglerade sandlådeinstrument och diskuterat vilka rättsliga ramar som krävs. Utvecklingen av innovativa åtgärder skulle även innebära fler möjligheter att till exempel identifiera sjukdomar eller anpassa sig till klimatförändringar. Med hjälp av AI kan exempelvis stora mängder data samlas in och analyseras för att ställa diagnos, hitta mönster och vidta mer proaktiva åtgärder, både inom sjukvården och inom miljö- och klimatarbetet.

Vad händer framåt?
Innan trepartsförhandlingarna mellan EU-kommissionen, medlemsstaterna och Europaparlamentet kan inledas, behöver Europaparlamentet komma överens om en ståndpunkt i frågan. Europaparlamentets ansvariga utskott för lagförslaget (IMCO och LIBE) väntas diskutera och påskynda processen i början av februari och en överenskommelse i Europaparlamentet tros vidare nås någon gång under mars. Trepartsförhandlingar förväntas således hållas, och möjligen färdigställas, under hösten då det är Spanien som innehar ordförandeskapet i Europeiska unionens råd.  

/Gabriel Carlin, EU policyhandläggare och Jaqueline Claesson, Trainee på Stockholmsregionens Europakontor i Bryssel