Martine SkipperTallene er høyere enn ventet. Dette gjelder millioner av søk.
Kunstig intelligens har raskt blitt en naturlig del av hverdagen, og mange stoler på svarene som dukker opp. Teknologien fremstår som både effektiv og imponerende, men under overflaten skjuler det seg svakheter.
En ny analyse omtalt av Popular Science setter søkelys på Googles AI-funksjon «AI Overview», og resultatene er ikke akkurat beroligende. Selv om svarene ofte ser troverdige ut, viser det seg at de ikke alltid stemmer.
Problemet er ikke nødvendigvis hvor ofte det skjer, men hvor stort det blir i praksis. Når Google håndterer enorme mengder søk hver dag, får selv små feil store konsekvenser.
Små feil blir et gigantproblem
Studien viser at AI Overview gir riktige svar omtrent 9 av 10 ganger. Det høres imponerende ut, men den siste tidelen skaper utfordringer.
Google forventes å håndtere over fem billioner søk i løpet av året, og da blir regnestykket ganske brutalt. Selv en liten feilprosent betyr at systemet kan produsere titalls millioner feilaktige svar – hver eneste time. Det som virker som en liten glipp, blir plutselig et massivt problem.
Vanskelig å oppdage hva som er feil
En av de største utfordringene er at feilene ikke alltid er åpenbare. Det samme søket kan gi ulike svar hvis du prøver igjen, noe som gjør det vanskelig å vite hva som faktisk er riktig.
Samtidig plasseres AI-svaret helt øverst i søkeresultatene, noe som gir det en autoritet mange stoler på. Dermed er det lett å ta feil informasjon for god fisk – uten å stille spørsmål.
Kilder som ikke alltid holder mål
Ifølge studien kommer en del av problemet fra hvilke kilder AI-en bruker. Nettsteder som Facebook og Reddit er blant de mest siterte, men disse dukker også oftere opp i feilaktige svar.
I noen tilfeller ser det til og med ut som AI-en oppgir en troverdig kilde, selv om selve svaret er feil. Det gjør det enda vanskeligere for brukere å vurdere hva de kan stole på.
Dette bør du ta med deg videre
Google selv sier at systemet ikke er perfekt, og at enkelte eksempler er basert på uvanlige søk. Likevel peker forskningen på et tydelig behov for mer kritisk bruk.
Ett feil svar av ti virker kanskje ikke dramatisk, men når man ser på det totale volumet av søk, får det en helt annen betydning. AI kan være nyttig, men det er fortsatt nødvendig å dobbeltsjekke det viktigste.
