EU vill bli först ut med att reglera användandet av artificiell intelligens (AI). Men arbetet med kommissionens förslag till ny förordning har dragit ut på tiden. Mikael Ljungblom på AI Sweden är oroad.
Målet med EU:s AI-Act är att AI-system ska vara transparenta, icke-diskriminerande, spårbara och säkra. System som anses utgöra hot för individer eller grupper ska därför förbjudas. Europeiska parlamentet tar upp tre områden där AI-system ska förbjudas:
Kognitiv beteendemanipulation, framför allt mot sårbara grupper (system som undermedvetet påverkar användarna, som leksaker som uppmuntrar farligt beteende hos barn).
Social betygssättning (system som klassificerar människor efter beteende, utseende eller socio-ekonomisk status).
Biometrisk identifikation i realtid (system för exempelvis ansiktsigenkänning).
Mikael Ljungblom är head of public policy på AI Sweden, Sveriges nationella center för tillämpad AI. Han säger att den tekniska utvecklingen varit explosionsartad sedan det ursprungliga förslaget presenterades för tre år sedan.
– Just nu är det en förhandling där parlamentets, rådets och kommissionens positioner ska jämkas samman.
Men när den väl träder i kraft kan den nya förordningen ”Artificial Intelligence Act” bli betungande för många aktörer, befarar Mikael Ljungblom.
– Det är en extremt komplex lagtext. Det gäller inte bara den som har utvecklat en tjänst utan också den som sätter tjänsten på marknaden eller som använder tjänsten i andra typer av produkter. Många företag kommer att behöva förhålla sig till det här.
Förslaget delar in olika tillämpningar av AI i risknivåer.
– Det finns det man kallar minimal risk, där du i praktiken inte behöver göra någonting. Det finns låg risk där du behöver informera användaren att ”det här är en AI-tjänst”. Och så finns det hög risk och det är egentligen där huvuddelen av all reglering sker.
Mikael Ljungblom och AI Sweden är kritiska till hur lagförslaget är uppbyggt.
– Det är knepigt att försöka reglera en teknik som är väldigt bred och kommer användas inom en mängd olika områden för helt olika syften. Det normala vore att man reglerar utfallet.
Som exempel nämner han det som kallas social betygssättning som i förslaget finns på nivån ”oacceptabel risk” och föreslås förbjudas helt.
– Det handlar om att ge betyg för beteenden som sedan styr hur folk kan leva sina liv. Här ska det vara förbjudet att göra det med hjälp av AI. Men vore det okej att göra med papper och penna? Eller hur tänker man?
Stefan Borg är vd för Lundabolaget Sib Solutions som utvecklar ett AI-baserat system för logistikövervakning. Han ser inte kommande AI Act som något allvarligt hot.
– Det blir alltid lite oro när ett regelverk ska introduceras. Men vi får anpassa oss, förstå hur det ska tillämpas och vad det innebär för oss.
Han jämför med när GDPR kom.
– Vi var alldeles nystartade och det var kostsamt att anlita jurister för att tolka regelverket. Jag tror att det här kommer att bli minst lika mödosamt för små och nystartade bolag.
Hos den betydligt större Lundagrannen Axis Communications har Mats Thulin, director core technologies, inte samma farhåga.
– Jag upplever inte att det förslag som ligger nu ger en jättetung administrativ börda. Som vi ser det i dag är det rimliga krav på både dokumentation och process.
Han ser tvärtom positivt på en kommande reglering.
– Det är bara positivt att ha en tydlig lagstiftning om vem som tar ansvar för teknologier och applikationer som man lanserar. Det kan också ge ett ökat förtroende i samhället för att använda de positiva delarna av teknologin. En annan positiv effekt är att den kan driva fram lagstiftning i andra regioner. Vi hoppas att en liknande lagstiftning kommer i USA.
Ola Nilsson
