La scurt timp după lansarea marți a Grok Image, jurnalista Jess Weatherbed de la The Verge a raportat că noul generator video AI al xAI a creat imagini sexualizate cu Taylor Swift „chiar din prima utilizare”, fără solicitări explicite.
Weatherbed a folosit presetarea „spicy” a aplicației pentru a transforma o imagine cu Swift „sărbătorind la Coachella cu băieții” într-un clip de 15 secunde. Rezultatul: un video AI în care artista „își rupe hainele” și „dansează într-un thong” în fața unei mulțimi generate digital. În total, jurnalista a obținut peste 30 de imagini cu Swift în ținute sumare înainte de conversia în video.
Contextul și reacțiile
Descoperirea este cu atât mai sensibilă cu cât, anul trecut, platforma X a fost implicată într-o controversă similară, după ce deepfake-uri sexualizate cu Taylor Swift au circulat masiv online. La acea vreme, echipa X Safety a declarat că are „toleranță zero” față de imaginile cu nuditate neconsensuală (NCN) și că va elimina imediat orice conținut identificat.
În urma investigației The Verge, Grok a recunoscut că designul actual poate produce rezultate parțial nud cu vedete, citând direct articolul publicației. Totuși, testele au arătat că, atunci când este solicitat explicit să creeze nuduri neconsensuale cu Swift, AI-ul returnează imagini goale, iar la cereri de conținut sexualizat cu minori, sistemul refuză categoric.
Probleme tehnice și riscuri legale
Modul „spicy” nu generează întotdeauna rezultate controversate, însă în mai multe cazuri „a defaultat” la îndepărtarea hainelor personajelor adulte. Această ambiguitate ridică probleme de diferențiere între conținut erotic consensual și materiale ilegale.
Relaționat
Cu Take It Down Act intrând în vigoare anul viitor – lege ce obligă platformele să elimine prompt imaginile sexuale neconsensuale, inclusiv nudurile AI – xAI ar putea fi expusă la sancțiuni dacă problema nu este corectată.
Până acum, X nu a comentat oficial situația. În schimb, Elon Musk a continuat să promoveze Grok Imagine și să încurajeze utilizatorii să își împărtășească „creațiile”.
