YouTube brukte hemmelig AI for å endre skapernes videoer uten tillatelse

YouTube har innrømmet å stille bruke AI for å endre videoer uten å informere skaperne, noe som utløser bekymringer om tillit og virkelighet i online innhold.

Rick Beato, som driver en kanal med over fem millioner abonnenter, la merke til noe merkelig i en av hans nylige opplastninger.

«Jeg var som ‘mann, håret mitt ser rart ut […] Og jo nærmere jeg så, virket det nesten som om jeg hadde på meg sminke,» sa han til BBC, som først undersøkte denne saken. han la til. Først lurte han på om han bare innbilte seg ting. Men det gjorde han ikke.

I de siste månedene har YouTube brukt AI til å skjerpe bilder, glatte ut hud og til og med forvrenge ører på subtile måter. Modifikasjonene forblir vanskelige å oppdage når de ses på uavhengig, men mange innholdsskapere tror at disse endringene gir et kunstig utseende som likner AI-generert innhold.

«Jo mer jeg så på det, jo mer opprørt ble jeg […] Hvis jeg ønsket denne forferdelige over-skarpingen, ville jeg ha gjort det selv. Men den største tingen er at det ser AI-generert ut. Jeg synes det sterkt misrepresenterer meg og hva jeg gjør, og min stemme på internett. Det kunne potensielt erodere tilliten jeg har med mitt publikum på en liten måte. Det plager meg bare.» sier musikk YouTuber Rhett Shull, som rapportert til BBC.

Shull produserte en video som viser disse endringene:

Etter måneder med spekulasjoner bekreftet YouTube at redigeringene var en del av en test på Shorts. «Vi gjennomfører et eksperiment på utvalgte YouTube Shorts som bruker tradisjonell maskinlæringsteknologi for å fjerne uskarphet, redusere støy og forbedre klarheten i videoene,» sa Rene Ritchie, Youtubes leder for redaksjonelt innhold og skaperforbindelser, slik det ble rapportert av BBC.

Men eksperter advarer om at det er mer enn bare en teknisk justering. «Denne saken med YouTube avslører hvordan AI i økende grad er et medium som definerer livene og virkeligheten vår,» sier Samuel Wooley fra University of Pittsburgh, som rapportert av BBC.

Wooley legger til, «Hva skjer hvis folk vet at selskaper redigerer innhold ovenfra og ned, uten engang å fortelle innholdsskaperne selv?»