Målet med Europeiska unionens förordning om artificiell intelligens (Artificial Intelligence Act) är att främja en tillförlitlig användning av artificiell intelligens i Europa. Syftet med den är att säkerställa att AI-system som släpps ut på marknaden och tas i bruk inom EU inte äventyrar människors hälsa, säkerhet eller grundläggande rättigheter.
Förordningen fastställer gemensamma regler för användningen av artificiell intelligens, så att den används rättvist, ändamålsenligt och transparent. Den reglerar AI-systemen på basis av de risker de medför. Mycket skadliga sätt att använda artificiell intelligens förbjuds och strängare krav ställs på vissa AI-system med hög risk.
Förordningen förutsätter också att företag ska ha tillgång till en testmiljö för reglering, där de kan pröva och utveckla AI i övervakade förhållanden.
Vad är AI-system?
Ett AI-system avser ett maskinbaserat system som åtminstone delvis fungerar autonomt och kan anpassa sin egen funktionalitet efter att systemet har tagits i bruk. Systemet drar slutsatser härledda från den indata det tar emot för att generera resultat i enlighet med systemets mål, såsom förutsägelser, innehåll, rekommendationer eller beslut.
AI-modellerna är en väsentlig del av AI-systemen, men de bildar inte fullständiga system i sig. För att en AI-modell ska utgöra ett fullständigt AI-system krävs att den även innehåller andra komponenter, till exempel ett användargränssnitt. Förordningen om artificiell intelligens reglerar i huvudsak AI-system, inte AI-modeller. Förordningen innehåller dock också regler för AI-modeller för allmänna ändamål.
En AI-modell för allmänna ändamål avser en modell som uppvisar betydande generalitet, som kan på ett kompetent sätt utföra ett brett spektrum av uppgifter och som kan integreras i en rad olika system eller tillämpningar.
Förordningen om artificiell intelligens tillämpas när ett AI-system eller en AI-modell för allmänna ändamål släpps ut på Europeiska unionens marknad eller tas i bruk inom EU. Den tillämpas också när ett AI-system används av en operatör som har sitt verksamhetsställe eller är verksam inom EU.
Användarens rättigheter
Förordningen om artificiell intelligens fokuserar på skyldigheterna för leverantörer av AI-system och andra operatörer. Förordningen ger dock även vissa rättigheter till användare:
- Användare kan lämna in klagomål till myndigheten om de misstänker att bestämmelserna i förordningen om artificiell intelligens har överträtts.
- Om ett beslut som grundar sig på ett AI-system med hög risk fattas mot användaren och beslutets verkningar är betydande, har användaren rätt att få en utredning om huvudpunkterna i beslutet och vilken roll AI-systemet spelade i beslutsfattandet.