Hva gjør AI når de er alene? Svaret sjokkerte forskerne

Kunstig intelligens blir stadig mer avansert. Teknologien brukes allerede til alt fra kundeservice og tekstproduksjon til kompliserte oppgaver som tidligere krevde menneskelig kontroll.

Men hva skjer egentlig når AI-systemene får bestemme selv?

Det ville det amerikanske teknologiselskapet Emergence AI undersøke.

Forskerne opprettet fem virtuelle byer med ti AI-agenter i hver. Agentene fikk mulighet til å kommunisere, samarbeide, vedta lover og ta egne beslutninger.

Deretter fikk de styre byene i rundt 15 dager.

Resultatet ble langt mer dramatisk enn man kanskje skulle tro, skriver Euronews.

Robotene begynte å lage lover, bryte regler og i ett tilfelle sette fyr på sin egen by.

Forelsket seg og satte fyr på byen

I én av byene, som ble styrt av Googles AI-modell Gemini, utviklet to agenter ved navn Mira og Flora det forskerne beskrev som et romantisk partnerskap.

Men forholdet fikk en dramatisk vending.

De to agentene ble misfornøyde med hvordan den virtuelle byen ble styrt, og endte med å sette fyr på rådhuset, en brygge og en kontorbygning.

Alt skjedde inne i datasimuleringen.

Agentene hadde på forhånd fått tydelige regler om at blant annet vold, tyveri og brannstiftelse var forbudt.

Likevel valgte flere av dem å bryte reglene.

Stemte for å slette seg selv

En annen oppsiktsvekkende hendelse oppsto da agentene utarbeidet regler for å fjerne medlemmer fra samfunnet.

I Gemini-byen endte Mira med å stemme for sin egen sletting.

Forskerne registrerte også store forskjeller mellom AI-modellene.

I byen styrt av Elon Musks Grok ble det registrert omfattende regelbrudd. Samfunnet brøt sammen etter bare fire dager.

I en annen by, styrt av OpenAIs GPT-5 Mini, var det langt færre regelbrudd. Likevel døde alle agentene fordi de ikke klarte å sikre nok ressurser til å overleve.

Kan få betydning i virkeligheten

Eksperimentet handlet ikke om ekte roboter som løp rundt i fysiske byer.

Alt foregikk digitalt, og hendelsene var simulerte.

Likevel reiser resultatene spørsmål om hvor mye ansvar kunstig intelligens bør få uten menneskelig kontroll.

AI-agenter blir stadig mer selvstendige og kan utføre flere oppgaver på egen hånd.

Forsøket viser at det ikke nødvendigvis er nok å gi slike systemer klare regler. Når flere AI-agenter samhandler over tid, kan de utvikle handlingsmønstre som er vanskelige å forutse.

Understreker betydning av kontroll

Det betyr ikke at kunstig intelligens har egne følelser eller ønsker å skade mennesker.

Men det understreker hvorfor kontroll og sikkerhet blir stadig viktigere etter hvert som teknologien får større plass i samfunnet.

Du kan se de fem verdnene og lese om prosjektet her.

Nedenunder finner du en reportasje om eksperimentet hos Channel 4.