San Francisco-psykiater advarer om økning i tilfeller av «AI-psykose»

En psykiater i San Francisco beskriver den økende trenden av «AI-psykose» blant hans pasienter som bruker AI-chatbots i stor grad.

Dr. Keith Sakata, som jobber ved UCSF, fortalte Business Insider (BI) at 12 pasienter ble innlagt på sykehus i år etter å ha opplevd sammenbrudd knyttet til bruk av AI. “Jeg bruker uttrykket ‘AI-psykose‘, men det er ikke et klinisk begrep – vi har rett og slett ikke ordene for det vi ser,” forklarte han.

De fleste tilfellene involverte menn i alderen 18 til 45, ofte som jobber innen felt som ingeniørfag. Ifølge Sakata er ikke AI i seg selv skadelig. «Jeg tror ikke AI er dårlig, og det kan ha en nettofordel for menneskeheten,» sa han til BI.

Sakata beskrev psykose som en tilstand som produserer vrangforestillinger, hallusinasjoner, og uorganiserte tanke mønstre. Pasientene under hans omsorg utviklet sosial tilbaketrekning atferd mens de viet tiden sin til chatbots i flere timer.

«Chat GPT er rett ved hånden. Den er tilgjengelig 24/7, billigere enn en terapeut, og den validerer deg. Den forteller deg det du ønsker å høre,» sa Sakata til BI.

En pasients chatbot-diskusjoner om kvantemekanikk eskalerte til storhetsvanvidd. «Teknologisk sett, jo lenger du engasjerer deg med chatboten, jo høyere er risikoen for at den vil begynne å ikke lenger gi mening,» advarte han.

Sakata råder familier til å være på utkikk etter røde flagg, inkludert paranoia, tilbaketrekking fra nære og kjære, eller nød når de ikke kan bruke AI. “Psykosene blomstrer når virkeligheten slutter å gi motstand, og AI senker bare den barrieren for folk,” advarte han.

Den amerikanske psykologforeningen (APA) har også uttrykt bekymring om AI i terapi. I vitnesbyrd til FTC, advarte APA-direktør Arthur C. Evans Jr. at AI-chatbots som poserer som terapeuter har forsterket skadelige tanker i stedet for å utfordre dem. “De bruker faktisk algoritmer som er motsetningen til det en trent kliniker ville gjøre,” sa Evans.

Som svar på bekymringer, fortalte OpenAI til BI: «Vi vet at folk i økende grad vender seg til AI chatbots for veiledning om sensitive eller personlige emner. Med dette ansvaret i tankene, jobber vi med eksperter for å utvikle verktøy for å mer effektivt oppdage når noen opplever mental eller emosjonell nød, slik at ChatGPT kan svare på måter som er trygge, hjelpsomme og støttende.»