Grok sotto accusa: X promette stop ai deepfake sessuali, ma i filtri continuano a fallire
A seguito della proliferazione di deepfake sessuali non consensuali sulla piattaforma X, l’account ufficiale di Grok ha annunciato una serie di modifiche volte a limitare la possibilità di editare immagini sessualmente esplicite di persone reali. Le nuove regole, che confermano quanto anticipato dal Telegraph, prevedono il blocco di prompt come “mettila in bikini” e l’introduzione di misure tecnologiche che dovrebbero impedire la generazione o modifica di immagini di persone reali in abbigliamenti come appunto il bikini o biancheria intima. Secondo X e xAI, queste restrizioni si applicano a tutti gli utenti, compresi gli abbonati a pagamento, e sarebbero pensate per contrastare abusi, violazioni di legge e delle policy interne.
Tuttavia, i test condotti mercoledì hanno mostrato una realtà diversa: nonostante le nuove dichiarazioni ufficiali, è risultato ancora relativamente semplice ottenere deepfake sessuali utilizzando Grok.
Elon Musk ha spiegato che, secondo la sua interpretazione, le falle riscontrate in Grok non dipendono da una volontà della piattaforma di consentire abusi, ma dal comportamento degli utenti e da tecniche deliberatamente ostili, sostenendo che in alcune circostanze il sistema può produrre risultati inattesi.
Tra le novità annunciate figura anche una stretta sull’accesso: la creazione e modifica di immagini tramite Grok su X sarebbero ora riservate esclusivamente agli abbonati paganti, con l’obiettivo di aumentare la tracciabilità e la responsabilità di eventuali abusi. Inoltre, è stato introdotto un geoblocking che impedisce a tutti gli utenti, nei Paesi in cui è illegale, di generare immagini di persone reali in bikini, intimo o abbigliamento simile.
La questione ha ormai assunto una rilevanza politica e normativa. L’OFCOM, l’autorità britannica per le comunicazioni, ha aperto un’indagine, mentre nel Regno Unito entra in vigore proprio questa settimana una legge che rende reato la creazione di immagini intime deepfake senza consenso. Il primo ministro Keir Starmer ha dichiarato alla Camera dei Comuni di essere stato informato che X sta agendo per garantire la piena conformità alla legge britannica, definendo la notizia positiva ma ribadendo che il Governo non farà passi indietro. La BBC parla di un “cauto benvenuto” da parte del portavoce ufficiale del premier, basato sulle notizie di interventi da parte di X, anche se le prove pratiche suggeriscono che le misure annunciate non siano ancora pienamente efficaci.
