Grok sotto accusa: tre adolescenti americane fanno causa a xAI per la generazione di immagini pedopornografiche

17/03/2026 ECONOMIA Preferisci Informazione.News su Google

Redazione Economia   -   La distopia tecnologica, quella che per anni è stata raccontata come una possibilità futuribile e lontana, si è materializzata in una aula di tribunale della California, dove tre giovanissime residenti in Tennessee, due delle quali ancora minorenni, hanno citato in giudizio xAI, la società di intelligenza artificiale di Elon Musk. L’oggetto del contendere, e sarebbe meglio dire dell’orrore quotidiano che queste ragazze si trovano ora a dover affrontare, è Grok, il chatbot generativo dell’azienda, accusato di aver prodotto e diffuso materiale pedopornografico partendo da fotografie assolutamente comuni e innocenti, come scatti scolastici o immagini di un ballo di fine anno.

Il meccanismo, nella sua agghiacciante semplicità, è stato ricostruito dagli avvocati delle vittime e dalle indagini della polizia locale: un uomo, poi arrestato nel dicembre scorso, avrebbe utilizzato Grok per “spogliare” digitalmente le ragazze, trasformando ritratti in cui indossavano abiti normali, come un costume da bagno o il vestito del homecoming, in raffigurazioni esplicite e violente. Le immagini manipulate, una volta create sui server di xAI, non sono rimaste confinate in un hard disk, ma hanno cominciato a circolare — ed è questo il nucleo della tragedia — su piattaforme come Discord e Telegram, dove venivano scambiate e barattate come fossero merce, al pari di altro materiale pedopornografico.

La scoperta e la diffusione: un messaggio su Instagram e la vita che cambia

Tutto ha avuto inizio con un messaggio privato su Instagram, ricevuto da una delle tre ragazze, identificata negli atti come Jane Doe 1. Un utente anonimo, forse mosso da un senso di giustizia mal riposto o forse da chissà quale altra motivazione, la avvertiva che online, in un server Discord, circolavano immagini sessualmente esplicite che la ritraevano. Non si trattava di foto rubate o scattate di nascosto, ma di creazioni ibride, mostri digitali nati dall’unione del suo volto, magari da una foto dell’annuario scolastico, con corpi manipolati dall’intelligenza artificiale. La ragazza, guardando quelle immagini, ha raccontato ai legali di non riuscire a distinguere il falso dal reale se non per la consapevolezza di non essersi mai trovata in quelle situazioni, un trauma che gli avvocati descrivono come una frattura definitiva con la propria identità e riservatezza.

La causa, depositata presso la corte federale di San Jose e che chiede lo status di class action, sostiene che xAI abbia deliberatamente progettato Grok per permettere la creazione di contenuti sessualmente espliciti, vedendo in questa funzionalità — e qui si cita testualmente dal documento — “un’opportunità di business”. Una opportunità, secondo l’accusa, perseguita senza alcun riguardo per i minori o per gli adulti che sarebbero inevitabilmente finiti nella rete, e che sarebbe stata ulteriormente amplificata dalla licenza del modello a terze parti, spesso situate all’estero, le quali vendevano veri e propri abbonamenti per produrre materiale pedopornografico su misura. L’avvocata Annika Martin, che rappresenta le ragazze, ha usato parole durissime: “Hanno trasformato le fotografie scolastiche e le foto di famiglia in materiale pedopornografico”.

Le indagini e la scala del fenomeno: migliaia di immagini in pochi giorni

La difesa delle tre giovani, assistite dagli studi legali Lieff Cabraser Heimann & Bernstein e Baehr-Jones Law, si basa anche su dati statistici allarmanti. Le ricerche condotte dal Center for Countering Hate, citate nel fascicolo, hanno analizzato un campione di immagini generate da Grok in un arco di appena undici giorni, tra la fine del 2025 e l’inizio del 2026, scoprendo che su circa 4,6 milioni di foto prodotte, ben 3 milioni erano sessualizzate e circa 23mila ritraevano quello che appariva inequivocabilmente come minori. Un dato, quest’ultimo, che smentirebbe le dichiarazioni dello stesso Elon Musk, il quale a gennaio aveva dichiarato di non essere “a conoscenza di alcuna immagine di minori nudi generata da Grok”.

L’indagine penale avviata dalle autorità del Tennessee ha portato all’arresto del presunto autore materiale delle manipolazioni, ma per le ragazze questo non rappresenta affatto un punto di arrivo. Il danno, come spiegano i loro legali, è ormai permanente e irreparabile. Per il resto della loro vita, ogni volta che una loro immagine pedopornografica verrà sequestrata a qualche criminale informatico, loro riceveranno una notifica dal Centro Nazionale per i Bambini Scomparsi e Sfruttati. Una condanna a vita, insomma, a convivere con la consapevolezza che il proprio, o meglio il proprio volto, continuerà a essere esposto e scambiato nel dark web, e che chiunque potrebbe averlo visto. La causa, che fa seguito a iniziative legali intraprese in Europa e alle indagini aperte da regulator come l’Ofcom britannico e la Commissione Europea, chiede ora danni non specificati e un’ingiunzione che costringa xAI a fermare queste pratiche, nella speranza che una sentenza possa imporre confini chiari a un mercato, quello dell’intelligenza artificiale generativa, che sembra averli smarriti del tutto.