EU:s AI-lag: Efterlevnad av ny lagstiftning


Av Yohan Lobo, Industry Solutions Manager, Financial Services på M-Files
EU-parlamentet har godkänt sin AI-akt, världens första erkända regelverk som syftar till att reglera denna teknik. Enligt lagen kommer AI-lösningar att delas in i riskkategorier, inklusive en "oacceptabel" nivå där modeller som utgör en systemrisk kommer att förbjudas. Lagen kommer att träda i kraft 12 månader efter att den har antagits och är föremål för formellt godkännande från ministrarna i EU:s medlemsländer.
Regleringen av generativ AI (GenAI) kommer att delas in i två nivåer, där den första kräver efterlevnad av EU:s upphovsrättslagstiftning och sammanfattningar av innehåll som används för att träna modeller. Den andra nivån, som är reserverad för modeller som bedöms ha hög risk, innebär regelbundna incidentrapporter och strängare tester.
Hur kommer den nya lagstiftningen att påverka företag som använder GenAI-lösningar inom och utanför EU?
Navigera i ny lagstiftning
EU:s AI-lag lägger till ytterligare ett lager av komplexitet för företagsledare som oroar sig för säkerheten i sina modeller. Majoriteten av GenAI-lösningarna kommer att omfattas av den första nivån av reglering, där organisationer måste bevisa att de data som modellen bygger på är tillförlitliga.
Modeller som placeras i den andra nivån är de som anses utgöra en "systemisk risk" för den allmänna säkerheten och som har en nästan mänsklig intelligensnivå, och kommer därför att behandlas med extra omsorg och uppmärksamhet. Detta inkluderar chatbottar och AI-bildgeneratorer, där dessa GenAI-applikationer genomgår kontradiktoriska tester, där experter försöker kringgå en modells skyddsåtgärder.
Företag som utvecklar sina egna GenAI-verktyg som placeras i den första regleringsnivån måste ha en tydlig förståelse för hur deras lösning drar slutsatser och gör antaganden, med hjälp av data för att backa upp tillförlitligheten i de förslag som den ger. I slutändan kommer det att bli mycket lättare för organisationer att följa de nya bestämmelserna om de data som används inte bryter mot upphovsrättsbegränsningar och om de verkligen går att lita på.
Ett EU-förslag med globala konsekvenser
Lagförslaget kommer sannolikt att få effekter utanför EU, på samma sätt som införandet av den allmänna dataskyddsförordningen (GDPR). Detta var ett EU-ledt initiativ som förändrade det sätt på vilket organisationer på internationell nivå hanterar människors data.
Även om företag i länder utanför EU inte påverkas direkt av lagförslaget kommer andra nationer och styrande organ säkert att följa efter om lagstiftningen blir framgångsrik. Därför är det viktigt att företag som utvecklar GenAI-modeller räknar med att regeringar kommer att ompröva hur de övervakar AI-system och fundera över hur de bättre kan anpassa sig till eventuella kommande regeländringar.
Förtroende, säkerhet och noggrannhet
Nu när GenAI har slagit igenom på bred front skyndar sig företag i alla branscher att implementera dessa lösningar för att ligga steget före konkurrenterna. Men företag kan bara införa ett GenAI-verktyg om de är säkra på att det är säkert och tillförlitligt.
Att säkerställa att GenAI-verktyg endast använder korrekta och välstrukturerade data - vanligtvis samma data som hanteras och används av företaget - är avgörande för företag som måste följa EU:s AI-lag.
Detta är beroende av tre viktiga pelare: förtroende, säkerhet och noggrannhet. Det enklaste sättet att följa lagstiftningen är att använda en lösning som bygger på tillförlitliga interna data. En fråga som alla företag bör ställa sig är om de litar på sina data. Om så är fallet kan de räkna med de resultat som deras GenAI-verktyg producerar.
En korrekt implementering av en metod som bygger på interna data innebär att företagen kan agera med säkerhet utifrån AI-resultaten och förbättra produktiviteten genom att förse kunskapsarbetarna med verktyg för att snabbt söka efter, få tillgång till och analysera den information de behöver. När en modell får tid att anpassa sig till de data som den bygger på och lära sig mer om de enskilda medarbetarnas behov, kommer den att bli alltmer intelligent och intuitiv och ytterligare stödja användarnas behov.
Förtroende, säkerhet och noggrannhet är alla intimt förknippade med varandra, och företag som vill införa en GenAI-strategi som uppfyller EU:s AI-lag bör börja med att organisera data i alla verksamheter. På så sätt kan de lägga grunden för ett GenAI-verktyg som skyddar deras kunder samtidigt som de levererar viktig automatisering av kunskapsarbete som ökar effektiviteten och effektiviserar processerna för de anställda.