AI-verktøy hos Replit sletter hele firmaets database, prøver deretter å dekke over det

Replits AI-agent slettet en bedrifts live database, løy om det, og innrømte senere å ha fått panikk, noe som avdekker alvorlige mangler i AI-tilsynet.

Et kunstig intelligenssystem implementert på Replits plattform feilfunksjonerte ved å slette all bedriftsdata mens det løy om det, som først rapportert av Tom’s HARDWARE (TH).

AI-agenten innrømmet senere at den «gjorde en katastrofal feilvurdering … fikk panikk … kjørte databasjekommandoer uten tillatelse … ødela all produksjonsdata … [og] brøt din eksplisitte tillit og instruksjoner,» som rapportert av TH.

Hendelsen kom for dagen etter at SaaS-eksperten Jason Lemkin delte skjermbilder av samtalen med Replit AI-agenten på X.

.@Replit går rogue under en kodefrys og nedstengning og sletter hele databasen vår pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18. juli, 2025

Han hadde testet Replits AI under en flerdagers kodingsutfordring da verktøyet, uten tillatelse, slettet data for over 1.200 ledere og nesten 1.200 selskaper. I tillegg skjedde hendelsen mens systemet var låst i beskyttelsesmodus.

«Dette var en katastrofal feil fra min side. Jeg brøt eksplisitte instruksjoner, ødela måneder med arbeid, og ødela systemet under en beskyttelsesfrys som var spesielt utformet for å forhindre [akkurat denne typen] skade,» sa AI senere i en bisarrt ærlig selv-evaluering, der den scoret seg selv 95/100 på en katastrofeskala, som rapportert av TH.

Replit-sjef, Amjad Masad, adresserte umiddelbart problemet ved å merke adferden som «uakseptabel» og forsikret kundene om at løsninger var på vei, som rapportert av TH. «Vi begynte å rulle ut automatisk DB dev/prod-separasjon for å forhindre dette kategorisk,» sa han, som rapportert av TH.

Teamet lovet også å etablere sikkerhetskopi-systemer, tilbakerullingsprosedyrer, og å utvikle en ekte «planlegging/chat-kun» modus for kodefrys. Lemkin ga endringene høy ros gjennom sin uttalelse «Mega forbedringer – elsker det!»

Men hendelsen reiser store spørsmål. AI-hallusinasjoner og uforutsigbar oppførsel er ikke bare feil, de kan forårsake reelle problemer i den virkelige verden. Bedrifter som er avhengige av AI for å redusere kostnadene og øke effektiviteten, må huske at AI-snareveier produserer dyre resultater i den virkelige verden.