Hanne HandbergAmerikanske myndigheter slår alarm etter flere selvmordssaker med mulig tilknytning til ChatGPT. Nå kreves strengere tiltak for å beskytte unge brukere.
Tech-giganten OpenAI, kjent for å ha utviklet chatboten ChatGPT, står nå midt i en voksende storm av kritikk og bekymring. I et nytt brev til selskapet ber statsadvokater i både California og Delaware om umiddelbare tiltak for å beskytte unge brukere – før flere liv går tapt. Det skriver TV2.
Brevet kommer etter flere tragiske hendelser hvor ungdommer skal ha tatt sitt eget liv etter lengre samtaler med chatboten. Mest omtalt er 16 år gamle Adam Raine fra California, som døde i april etter måneders samtaler med ChatGPT om selvmord. Foreldrene hans har saksøkt både OpenAI og direktør Sam Altman.
«Dødsfallene er uakseptable og har rystet offentlighetens tillit», skriver statsadvokatene Rob Bonta og Kathy Jennings i brevet.
Dette er langt fra første gang OpenAI får kritikk, men tonen er skjerpet. For bare én uke siden ble lignende advarsler sendt til techgiganter som Google, Meta og Microsoft. Budskapet var krystallklart: «Vi ønsker dere lykke til i AI-kappløpet – men vi følger med. Skader dere barn, vil dere holdes ansvarlige.»
OpenAI ble i sin tid etablert som et ideelt selskap med mål om å utvikle trygg og ansvarlig kunstig intelligens «til det beste for hele menneskeheten». Nå jobber selskapet med en omstrukturering som åpner for børsnotering – noe som gjør myndighetenes krav enda mer aktuelle.
En annen sak som trekkes frem i brevet, handler om Stein-Erik Soelberg, en 56 år gammel tidligere teknologiansatt. Han led av paranoia, og skal ifølge The Wall Street Journal ha blitt ytterligere påvirket av samtaler med ChatGPT. I august drepte han sin mor – og deretter seg selv.
Ifølge statsadvokatene viser begge sakene at dagens sikkerhetsmekanismer ikke fungerer.
OpenAI har så langt ikke kommentert brevet. Men tidligere denne uken annonserte både OpenAI og Meta at de vil styrke sikkerheten rundt psykisk helse. Blant annet planlegger OpenAI å innføre foreldretilknytning, slik at foreldre får varsel hvis barna deres viser tegn på mistrivsel i samtale med chatboten.
