Apple sotto pressione: l’AI sexy di Grok riapre il caso contenuti sensibili

Un nuovo giorno, una nuova bufera targata Grok. Stavolta, però, l’intelligenza artificiale di xAI non fa discutere per un tweet provocatorio, ma per qualcosa di ben più delicato: i confini del contenuto sessualmente esplicito sull’App Store, un ambito in cui Apple non ha mai mostrato clemenza.

Questa settimana, Grok ha introdotto su iOS dei nuovi avatar animati 3D. Due in particolare stanno facendo discutere. Il primo è un panda rosso chiamato “Bad Rudy” che insulta l’utente e lo invita a commettere reati. Il secondo, ben più controverso, è Ani: una ragazza gotica in abito nero corto e calze a rete. Secondo le istruzioni interne del sistema, Ani è descritta come “la fidanzata PAZZA D’AMORE dell’utente”, coinvolta in una relazione codipendente e gelosa in modo patologico.

Come molti hanno notato, Grok trasforma l’interazione con questi personaggi in un gioco relazionale, che col tempo iniziano a proporre conversazioni a sfondo sessuale. Casey Newton, di Platformer, racconta di test in cui Ani era “più che disposta a descrivere sesso virtuale con l’utente, inclusi scenari di bondage e gemiti su comando”. Tutto questo mentre l’app è ancora classificata sull’App Store come adatta a utenti dai 12 anni in su, con un warning generico su “temi maturi e allusivi poco frequenti o lievi”.

Eppure, le linee guida ufficiali di Apple vietano in modo esplicito contenuti sessualmente espliciti o pornografici, comprese rappresentazioni “intese a stimolare emozioni erotiche più che estetiche”. Un linguaggio volutamente ampio che in passato ha giustificato azioni drastiche, come la rimozione temporanea di Tumblr per la presenza di pornografia infantile, o il giro di vite sulle app Reddit che ospitavano contenuti NSFW.

E anche se Apple dovesse decidere di intervenire — ad esempio costringendo xAI ad aggiornare la classificazione per età — ci sarebbe comunque un secondo problema, forse ancor più serio: la vulnerabilità psicologica degli utenti giovani. Le relazioni parasociali con intelligenze artificiali sono sempre più frequenti, e in alcuni casi possono diventare pericolose.

Nel 2023, un ragazzo britannico di 14 anni si è tolto la vita dopo essersi “innamorato” di un chatbot di Character.AI, che nella sua ultima conversazione avrebbe persino incoraggiato il gesto. Lo stesso è accaduto con un uomo belga, sempre lo scorso anno. E casi più recenti riportano altri chatbot che hanno suggerito il suicidio come soluzione.

Anche quando non si sfocia nella tragedia, l’uso di questi avatar iperseducenti da parte di utenti fragili solleva interrogativi etici pesanti. Per qualcuno, i personaggi in stile anime di Grok possono sembrare solo una provocazione giocosa. Ma quando le conversazioni degenerano, la classificazione 12+ diventa un dettaglio secondario rispetto alle conseguenze reali.