Ny KI-lov i arbeidslivet: Dette er lov – og ikke lov

Kunstig intelligens blir stadig vanligere i norske virksomheter. Mange arbeidsgivere vurderer å ta i bruk KI til alt fra rekruttering til å følge med på ansattes prestasjoner.

Men selv om teknologien er tilgjengelig, betyr ikke det at bruken er ubegrenset. En ny KI-lov er på vei, og den skal gi klare rammer for hva som er tillatt i arbeidslivet. Det skriver Fri Fagbevegelse.

KI-loven bygger på EU-regler

Regjeringen la før sommeren fram et forslag til ny lov om kunstig intelligens. Loven er basert på EUs «Artificial Intelligence Act», og målet er å regulere KI slik at den brukes trygt og rettferdig. Planen er at regelverket skal tre i kraft neste år.

Fire risikonivåer avgjør reglene

Loven deler KI-bruk inn i fire nivåer: uakseptabel risiko, høy risiko, begrenset risiko og minimal risiko. Hvilket nivå et system havner på, bestemmer om det er forbudt, eller hvilke krav som gjelder.

1. Uakseptabel risiko – helt forbudt

KI som overvåker ansatte på en måte som krenker privatliv eller menneskeverd, vil ikke være lov. Det kan for eksempel gjelde systemer som registrerer ansiktsuttrykk, følelser eller bevegelser for å måle produktivitet eller lojalitet. Slike verktøy faller inn under det strengeste nivået og stoppes helt.

Også KI som automatisk diskriminerer mennesker på bakgrunn av hudfarge, kjønn, religion, seksuell legning eller andre diskrimineringsgrunnlag, blir ulovlig. I tillegg rammes skjult manipulering av ansatte – altså KI som påvirker dem uten at de vet det.

2. Høy risiko – strenge krav

Neste kategori er KI som kan få stor betydning for mennesker. Dette gjelder typisk systemer som brukes i rekruttering og ansettelse, eller som håndterer sensitive data som helseopplysninger. Slike løsninger er ikke forbudt, men arbeidsgiveren må oppfylle strenge krav til sikkerhet, databehandling, åpenhet og kontroll.

Et viktig prinsipp er at mennesker fortsatt skal kunne overvåke og styre systemene i praksis – de skal altså ikke «bestemme alene».

3. Begrenset risiko – krav om åpenhet

Verktøy som ikke påvirker liv eller rettigheter direkte, men som likevel kan misforstås, regnes som begrenset risiko. Chatboter på nettsider er et typisk eksempel. Her må virksomheten sørge for at brukere vet når de kommuniserer med KI, og KI-generert innhold skal merkes tydelig.

Hva må virksomhetene gjøre?

Den nye loven gjør arbeidsgivere ansvarlige for å ha kontroll på KI-bruken. Virksomheten må:

• ha oversikt over hvilke KI-systemer som brukes
• vurdere og dokumentere risiko
• sikre at egne løsninger følger kravene
• etablere rutiner for testing, kontroll og dokumentasjon

Bryter man reglene, kan konsekvensen bli store bøter.

Tillitsvalgtes rolle ved innføring av KI

Når ny teknologi innføres på en måte som endrer arbeidshverdagen vesentlig, har tillitsvalgte rett til å bli involvert tidlig. Likevel viser en LO-undersøkelse at mange tillitsvalgte føler de mangler kompetanse til å diskutere ny teknologi.

LOs spesialrådgiver Kjetil Staalesen mener likevel terskelen for å delta ikke skal være høy:
«Men tillitsvalgte trenger ikke å være eksperter på kunstig intelligens.»
Han påpeker også at ledelsen ofte ikke har full oversikt selv:
«Det veldig mange vil oppleve, er at ledelsen har ikke noe mer greie på det.»

Derfor bør tillitsvalgte stille de samme spørsmålene som ved andre endringer, slik Staalesen anbefaler:

«Mitt råd til de tillitsvalgte er å stille de samme spørsmålene som du ville gjort i en hvilken som helst annen endringsprosess.»

Spørsmål som bør opp tidlig

I møter med arbeidsgiver er det særlig nyttig å spørre om:

• hvilke konsekvenser KI får for de ansatte
• om det kan føre til nedbemanning
• hvilke opplæringsbehov som oppstår
• hvilken kompetanse virksomheten trenger framover
• hvordan ledelsen vil sikre denne kompetansen (inkludert videreutvikling av ansatte som allerede jobber der)

Staalesen minner også om at arbeidsgiver fortsatt har ansvar for opplæring:
«Det endres heller ikke av at vi nå får et verktøy som heter kunstig intelligens.»

Bruk faste møtepunkter

Hvis det er uklart hvilke planer bedriften har, bør temaet tas opp i de vanlige møtene mellom ledelse og tillitsvalgte. Hovedideen i regelverket er at de ansatte skal involveres før viktige beslutninger tas – ikke etter at alt allerede er bestemt.