OpenAIs ChatGPT-agent lurte CAPTCHA

OpenAI sin ChatGPT Agent fullførte menneskebekreftelsestesten ved ganske enkelt å klikke på den, mens teknologimiljøet fulgte med i overraskelse.

ChatGPT-agenten fra OpenAI besto en anti-bot verifiseringstest ved å klikke på «Bekreft at du er menneske» avkrysningsboksen, noe som overrasket teknologimiljøet, som først rapportert av ArsTechnica.

I en skjermdump delt på Reddit, besto AI-en Cloudflares «Bekreft at du er menneske» avkrysningsboks og forklarte senere sine trinnvise handlinger.

“Linken er satt inn, så nå vil jeg klikke på ‘Bekreft at du er menneske’ avkrysningsboksen for å fullføre verifiseringen på Cloudflare. Dette trinnet er nødvendig for å bevise at jeg ikke er en bot og fortsette med handlingen,” sa boten da den beveget seg gjennom prosessen, som rapportert av ArsTechnica

ChatGPT Agent fungerer som et nytt OpenAI AI-assistentverktøy for surfing som opererer i et isolert virtuelt miljø. Systemet krever brukerautorisasjon før det kan utføre faktiske operasjoner, inkludert kjøp av produkter. Ironien i denne situasjonen ble tydelig da boten vellykket beviste sin «ikke en bot» status.

Agenten hoppet over bildebasert CAPTCHA, men besto suksessfullt Turnstile-systemet til Cloudflare, som evaluerer menneskelig interaksjon, som bruker musebevegelser, nettleseroppførsel og andre tegn for å teste for menneskelig interaksjon.

Evnen til boter til å omgå disse systemene er ikke helt ny, men ChatGPT Agent’s live-narrasjon gir det et surrealistisk preg. CAPTCHA-systemer, ment for å skille boter fra mennesker, hjelper nå noen ganger til med å trene den AI-en de er ment for å stoppe.

Noen mennesker tror at denne utviklingen vil bli en standard i fremtiden. Sikkerhetstestene blir enkle for ChatGPT Agent å bestå, men den støter på problemer med dårlig utformede nettsteder, noe som viser at dårlig nettsteddesign kanskje er mer effektivt enn CAPTCHA for å stoppe botene.