EU AI Act Første regulering om kunstig intelligens

EU AI Act Første regulering om kunstig intelligens

EU AI Act Første regulering om kunstig intelligens. Bruken av kunstig intelligens i EU vil bli regulert av AI Act, verdens første omfattende AI-lov. Finn ut hvordan den vil beskytte deg. Som en del av sin digitale strategi ønsker EU å regulere kunstig intelligens (AI) for å sikre bedre forhold for utvikling og bruk av denne innovative teknologien. AI kan skape mange fordeler, som bedre helsevesen; tryggere og renere transport; mer effektiv produksjon; og billigere og mer bærekraftig energi.

I april 2021 foreslo Europakommisjonen det første regelverket for AI i EU. Det sier at AI-systemer som kan brukes i ulike applikasjoner, blir analysert og klassifisert etter risikoen de utgjør for brukerne. De ulike risikonivåene vil bety mer eller mindre regulering. Når de er godkjent, vil dette være verdens første regler om AI.

Parlamentets ønsker for AI-lovgivning

Parlamentets hovedprioritet er å sikre at AI-systemer som brukes i EU er trygge, transparente, sporingsdyktige, ikke-diskriminerende og miljøvennlige. Det er viktig at mennesker har tilsyn med AI-systemene, i stedet for fullstendig automatisering, for å unngå skadelige utfall.

Parlamentet ønsker også å etablere en teknologinøytral, ensartet definisjon for AI som kan brukes på kommende AI-systemer. Dette sikrer en felles forståelse uavhengig av teknologiske fremskritt.

AI-loven: Forskjellige regler for ulike risiknivåer

De nye reglene pålegger leverandører og brukere spesifikke forpliktelser avhengig av risikoen knyttet til kunstig intelligens. Selv om mange AI-systemer har minimal risiko, kreves det en grundig vurdering.

Uakseptabel risiko

AI-systemer som anses å utgjøre en uakseptabel risiko og true enkeltpersoner, vil bli forbudt. Dette inkluderer:

1. Kognitiv atferdsmanipulasjon rettet mot enkeltpersoner eller sårbare grupper, for eksempel stemmeaktiverte leker som fremmer farlig atferd hos barn.
2. Sosial scoring som innebærer klassifisering av enkeltpersoner basert på atferd, sosioøkonomisk status eller personlige egenskaper.
3. Biometrisk identifikasjon og kategorisering av enkeltpersoner.
4. Sanntids- og fjernbiometriske identifikasjonssystemer, som ansiktsgjenkjenning.

Noen unntak kan vurderes for formål knyttet til lovhandhevelse. «Sanntids» fjernbiometriske identifikasjonssystemer vil bli tillatt i et begrenset antall alvorlige tilfeller, mens «etter» fjernbiometriske identifikasjonssystemer, der identifikasjon skjer etter betydelig forsinkelse, vil være tillatt for straffeforfølgelse av alvorlige forbrytelser bare etter domstolens godkjenning.

High Risk AI-systemer

High Risk AI-systemer som påvirker sikkerhet eller grunnleggende rettigheter negativt, vil bli betraktet som høyrisiko og vil bli delt inn i to kategorier:

1. AI-systemer som brukes i produkter som omfattes av EU’s produkttrygghetslovgivning. Dette inkluderer leker, luftfart, biler, medisinsk utstyr og heiser.
2. AI-systemer innen spesifikke områder som må registreres i en EU-database:

• Ledelse og drift av kritisk infrastruktur
• Utdanning og yrkesopplæring
• Ansettelse, arbeidsstyring og tilgang til selvstendig næringsvirksomhet
• Tilgang til og nytte av essensielle private tjenester, offentlige tjenester og ytelser
• Lovhandhevelse
• Migrasjon, asyl og grensekontroll
• Bistand i juridisk tolkning og anvendelse av loven.

Alle høyrisiko AI-systemer vil bli vurdert før de blir lansert på markedet og gjennom hele deres levetid.

Generell bruk og generativ AI

Generativ AI, lik ChatGPT, må følge gjennomsiktighetskrav, som inkluderer:

1. Avsløring av AI-generert innhold
2. Designe modeller for å forhindre generering av ulovlig innhold
3. Publisere sammendrag av opphavsrettsbeskyttede data brukt til opplæring

For høyinnvirkende generelle AI-modeller, som den avanserte GPT-4, som kan utgjøre systemrisiko, er grundige evalueringer påkrevd. Alle betydelige hendelser må rapporteres til Europakommisjonen.

Begrenset risiko

AI-systemer med begrenset risiko bør oppfylle minimale gjennomsiktighetskrav for å gi brukerne muligheten til å ta informerte beslutninger. Etter samhandling med applikasjonene kan brukerne bestemme om de ønsker å fortsette å bruke dem. Det er avgjørende å informere brukerne når de samhandler med AI, spesielt i tilfeller der AI-systemer genererer eller manipulerer bilde-, lyd- eller videomateriale, som for eksempel deepfakes.

Neste steg

Den 9. desember 2023 oppnådde Parlamentet en foreløpig avtale med Rådet om AI-loven. Den avtalte teksten må nå formelt vedtas både av Parlamentet og Rådet for å bli en del av EU-loven.

Før alle MEP-ene uttaler seg om avtalen, vil Parlamentets komité for indre marked og komiteen for borgerrettigheter avholde avstemning om den.