Amandus Molland Karlson
AI-utviklingen er bekymringsverdig, det sier de som selv utvikler AI.
Flere av menneskene som selv utvikler verdens kraftigste AI-modeller kommer nå med svært alvorlige advarsler. En sikkerhetstopp hos Anthropic mener risikoen for at AI kan utslette menneskeheten ikke lenger kan avfeies.
Utviklingen av kunstig intelligens går i rekordfart. Samtidig kommer noen av de sterkeste advarslene fra personer som jobber midt i AI-industrien.
Evan Hubinger, som arbeider med AI-sikkerhet hos Anthropic, selskapet bak Claude, mener det er mer enn ti prosent risiko for at kunstig intelligens kan føre til menneskehetens undergang i løpet av det neste tiåret.
Uttalelsen kom etter at Jacob Coxon, en tidligere utvikler hos både Anthropic og OpenAI, fortalte at han hadde sagt opp jobben i protest.
Frykter at AI kan ta kontroll
Også Anthropic-sjef Dario Amodei har uttrykt sterk bekymring for hvor raskt teknologien utvikler seg.
I et innlegg på X tok han nylig til orde for å bremse utviklingen. Bakgrunnen er frykt for at svært avanserte AI-systemer i nær fremtid kan bli i stand til å ta kontroll over store deler av internett. Det skriver tek.no.
Bekymringen kommer samtidig som teknologiselskapene fortsetter å bruke enorme summer på å utvikle stadig kraftigere modeller.
Det har skapt en vanskelig situasjon. Selskapene som leder utviklingen advarer selv om at teknologien kan innebære store farer, samtidig som kappløpet om å utvikle de beste systemene fortsetter.
AI brukes allerede i konflikter
Det er heller ikke bare fremtidige superintelligente systemer som skaper bekymring.
Anthropic publiserte 10. september en sikkerhetsrapport som beskriver hvordan Claude allerede har blitt misbrukt av forskjellige aktører.
Ifølge selskapet har teknologien blant annet blitt brukt i forbindelse med russiske hackerangrep mot Ukraina, europeiske myndigheter og militære mål.
Anthropic beskriver også hvordan iranske aktører har brukt AI i arbeid rettet mot opposisjonelle, mens aktører i Jemen skal ha forsøkt å bruke Claude i utviklingen av våpensystemer.
Eksemplene viser hvordan AI-verktøy som i utgangspunktet er utviklet for vanlige brukere og bedrifter også kan utnyttes til helt andre formål.
Ingen vet nøyaktig hva som skjer inne i modellene
En av utfordringene med avansert kunstig intelligens er at selv utviklerne ikke alltid kan forklare nøyaktig hvordan modellene kommer frem til resultatene sine.
Modellene bygges og trenes av mennesker, men etter treningen kan det være vanskelig å forstå alle prosessene som foregår inne i systemet.
Dette omtales ofte som problemet med den svarte boksen.
Jo mer avanserte og selvstendige AI-systemene blir, desto viktigere blir spørsmålet om mennesker faktisk klarer å beholde kontrollen.
Forskerne er langt fra enige
Det er samtidig stor uenighet om hvor realistiske de mest dramatiske scenarioene er.
Oxford-professor Sandra Wachter er blant forskerne som har advart mot å bruke for mye oppmerksomhet på spekulasjoner om menneskehetens undergang.
Hun mener slike scenarioer kan flytte oppmerksomheten bort fra problemer som allerede finnes i dag.
Det gjelder blant annet overvåking, diskriminering, feilinformasjon og hvordan AI påvirker arbeidslivet og samfunnet.
Andre mener risikoen for langt mer alvorlige konsekvenser må tas på alvor.
«AIs gudfar» har også advart
Geoffrey Hinton, som fikk Nobelprisen i fysikk i 2024 og ofte omtales som en av pionerene bak moderne kunstig intelligens, har tidligere kommet med lignende advarsler.
Etter at han forlot Google, har Hinton snakket åpent om risikoen ved stadig kraftigere AI-systemer.
Han har anslått sannsynligheten for at kunstig intelligens kan føre til menneskehetens undergang i løpet av de kommende tiårene til mellom 10 og 20 prosent.
Det finnes ingen måte å slå fast om slike anslag er riktige. De viser likevel hvor stor uenigheten og usikkerheten er, selv blant noen av verdens fremste eksperter på teknologien.
Kappløpet fortsetter
Samtidig investeres det enorme summer i datasentre, datakraft og nye AI-modeller.
USA og Kina konkurrerer om å ligge lengst fremme, mens kunstig intelligens også blir stadig viktigere innen forsvar, overvåking og sikkerhet.
Dermed står myndighetene overfor et vanskelig spørsmål. De skal forsøke å regulere en teknologi som utvikler seg svært raskt, samtidig som land frykter å havne bak konkurrentene.
Advarslene fra menneskene som selv bygger teknologien har derfor satt nytt press på diskusjonen om hvor langt AI-utviklingen bør få gå, og hvem som egentlig skal ha kontrollen.
