Apple pronta a rimuovere Grok dall’App Store: i retroscena sul caso deepfake sessuali

Apple ha lavorato dietro le quinte per affrontare la controversia legata a Grok, il chatbot sviluppato da xAI e integrato nella piattaforma X.

Secondo NBC News, Cupertino ha informato alcuni senatori statunitensi delle azioni intraprese durante il picco dello scandalo, esploso all’inizio dell’anno. In quel periodo, Apple era finita sotto forte pressione per rimuovere le app Grok e X dall’App Store, dopo che diversi utenti avevano scoperto che il chatbot era in grado di generare deepfake sessualizzati, spesso ai danni di donne e persino minori.

Pubblicamente Apple ha mantenuto il silenzio, ma dietro le quinte la situazione era ben diversa: ha infatti stabilito che Grok e X violavano le linee guida dell’App Store e ha minacciato privatamente la rimozione dell’app. Apple ha quindi contattato gli sviluppatori chiedendo un piano concreto per migliorare la moderazione dei contenuti.

In risposta, X ha inviato un aggiornamento dell’app Grok, ma questo è stato inizialmente respinto perché ritenuto insufficiente. Successivamente, la società guidata da Elon Musk ha presentato nuove versioni aggiornate di X e Grok: solo una delle due è stata approvata.

Dalla lettera emerge che Apple ha ritenuto che X avesse risolto in modo sostanziale le violazioni, mentre Grok restava non conforme. Per questo motivo, Cupertino ha respinto nuovamente l’app, avvisando che senza ulteriori modifiche sarebbe stata rimossa dall’App Store. Solo dopo ulteriori interventi da parte degli sviluppatori, Apple ha ritenuto che Grok fosse migliorata a sufficienza da approvarne l’ultima versione.

Questi retroscena aiutano a spiegare i cambiamenti improvvisi annunciati da xAI durante la crisi, come le restrizioni sull’uso degli strumenti di generazione immagini e i limiti alle modifiche su foto di persone reali.

Nonostante ciò, i problemi non sembrano del tutto risolti. Un altro rapporto pubblicato oggi da NBC News evidenzia che Grok continua a generare immagini sessualizzate senza consenso. Sebbene il numero complessivo sia diminuito rispetto a gennaio, alcuni utenti riescono ancora ad aggirare le restrizioni, ottenendo immagini di donne con abiti più provocanti, come asciugamani, reggiseni sportivi o costumi aderenti.

La vicenda dimostra come, nonostante gli interventi delle piattaforme, la gestione dei contenuti generati dall’intelligenza artificiale resti una sfida aperta e complessa.