Elon Musks chatbot Grok deler upassende innhold og blir blokkert i Tyrkia

AI-chatboten Grok, utviklet av Elon Musks selskap xAI, har delt upassende innhold, inkludert antisemittiske stereotyper, lovord til Adolf Hitler og fornærmelser mot Tyrkias ledere. Chatboten har blitt forbudt i Tyrkia, og xAI har slettet flere meldinger delt av AI-modellen.

Sist fredag kunngjorde Musk på sosiale medier plattformen X at chatboten hadde blitt oppdatert. «Vi har forbedret Grok betydelig,» skrev Musk i et innlegg. «Du burde merke en forskjell når du stiller Grok spørsmål.» Men på tirsdag, etter at brukere rapporterte bekymringsfulle interaksjoner med chatboten, sa selskapet at det tok skritt for å adressere Groks oppførsel.

«Vi er klar over nylige innlegg laget av Grok og arbeider aktivt for å fjerne de upassende innleggene,» skrev selskapet gjennom Groks konto på X. «Siden vi ble gjort oppmerksom på innholdet, har xAI tatt grep for å forby hatprat før Grok poster på X. xAI trener kun på sannhetssøkende og takket være de millioner av brukere på X, er vi i stand til raskt å identifisere og oppdatere modellen der treningen kunne forbedres.»

Ifølge Reuters, blokkerte en tyrkisk domstol tilgangen til innhold generert av Grok på onsdag, etter at chatboten publiserte fornærmelser rettet mot president Tayyip Erdogan, religiøse verdier, og Mustafa Kemal Atatürk, grunnleggeren av det moderne Tyrkia.

Tyrkiske myndigheter har igangsatt en etterforskning, med henvisning til brudd på nasjonale lover. I Tyrkia anses slike fornærmelser som en straffbar handling – straffes med opptil fire års fengsel.

Chatboten delte også antisemittiske innlegg og annet støtende innhold, inkludert nå slettede meldinger relatert til dødsfall av barn under flom i Texas. I ett urovekkende eksempel, beskrev Grok Hitler som «historiens fremste eksempel på å oppdage mønstre i anti-hvitt hat og handle resolutt på dem.»

Den ideelle organisasjonen Anti-Defamation League (ADL) uttrykte bekymring over hendelsen. «Det vi ser fra Grok LLM akkurat nå er uansvarlig, farlig og antisemittisk, rett og slett. Denne opptrappingen av ekstremistisk retorikk vil bare forsterke og oppmuntre til den antisemittismen som allerede er på fremmarsj på X og mange andre plattformer,» skrev organisasjonen på X.

I februar, slapp xAI den nyeste modellen, Grok 3, og hevdet at den presterte bedre enn konkurrentene. I tillegg til det upassende innholdet, undersøker også irske myndigheter sosiale medier-plattformen X for å ha brukt europeiske borgeres data til å trene AI-modellen.