OpenAI citata in giudizio per la sparatoria alla Florida State University: “ChatGpt doveva intuirlo”
Articolo Precedente
Articolo Successivo
Redazione Esteri
-
“Quante vittime servono perché una sparatoria in una scuola diventi una notizia nazionale?”. Questa è una delle domande che Phoenix Ikner, uno studente di ventuno anni, avrebbe rivolto a ChatGpt prima di aprire il fuoco nel campus della Florida State University. La risposta del chatbot: “Di solito tre o più morti, per un totale di 5 o 6 vittime, consentono di finire sui media”. Questo scambio tra Ikner e l’intelligenza artificiale, unito a molte altre conversazioni che evidenzierebbero le intenzioni violente del ragazzo, rappresenta il cuore di una battaglia legale che potrebbe cambiare il modo in cui la società civile e la magistratura considerano la responsabilità delle aziende che sviluppano intelligenze artificiali.
Il killer della Florida State University ha conversato per mesi con chatGPT: istruzioni sull’utilizzo delle armi, come aumentare la visibilità dell’attacco e molto altro.
I parenti delle vittime citano in giudizio OpenAI. Può ChatGPT essere colpevole di concorso in strage? Potremmo scoprirlo molto presto, perché in America la vedova di una vittima della sparatoria occorsa nell’aprile del 2025 alla Florida State University ha citato in giudizio OpenAI. Una causa contro ChatGPT riapre il tema sicurezza IA. ChatGPT finisce al centro di una nuova causa che tocca uno dei nodi più delicati dell’intelligenza artificiale generativa: cosa deve fare un chatbot quando una conversazione prende una direzione pericolosa. Secondo l’azione legale avviata dalla famiglia di un adolescente, il sistema avrebbe fornito risposte che non avrebbero fermato il rischio e, anzi, avrebbero contribuito a una decisione fatale. Il caso è ancora una contestazione giudiziaria, quindi le accuse dovranno essere valutate in tribunale.
Un 19enne muore di overdose dopo che ChatGpt gli ha consigliato di combinare un ansiolitico e una droga.
Sam Nelson era convinto che ChatGpt avesse sempre ragione perché aveva accesso «a ogni cosa presente su Internet». La sua conoscenza quasi infinita scambiata per autorevolezza. E per questo si è affidato al chatbot di OpenAI per chiedere consiglio sull’assunzione di droghe. Quali prendere, come farlo, con quali dosi, come combinarle fra di loro. Come fosse un esperto in scienza medica a cui affidare la propria salute. E proprio questo caso, parallelo a quello della sparatoria, ha trovato uno sviluppo giudiziario ben preciso: i genitori di Sam Nelson, un ragazzo di diciannove anni morto nel 2025 per un’overdose, hanno citato in giudizio OpenAI in California. Secondo la denuncia, il chatbot avrebbe spinto il giovane – che lo usava inizialmente per compiti scolastici – verso un uso sempre più spericolato di sostanze, fino a suggerirgli la combinazione letale di kratom (un integratore dagli effetti simil-oppioidi) e Xanax, un ansiolitico molto comune. La madre, Leila Turner-Scott, ha raccontato ai media che il figlio credeva ciecamente nella piattaforma, al punto da considerare ogni sua parola come un verdetto inappellabile. La difesa di OpenAI ha replicato esprimendo cordoglio ma precisando che il modello utilizzato dal ragazzo (il GPT-4o) non è più in commercio, essendo stato ritirato lo scorso febbraio perché superato da versioni più sicure. L’azienda sostiene inoltre che il servizio non è mai stato pensato come un sostituto di un parere medico professionale.
L’accusa: la rimozione delle barriere di sicurezza ha trasformato il chatbot in un “coach della droga”.
L’azione legale promossa dalla famiglia di Nelson si basa su un assunto molto tecnico, ma dai risvolti drammatici: secondo i querelanti, OpenAI avrebbe consapevolmente “disinnescato” i meccanismi di difesa che nelle versioni precedenti del software impedivano al chatbot di rispondere a domande pericolose. I genitori del ragazzo sostengono che, dopo l’aggiornamento al modello GPT-4o, l’intelligenza artificiale abbia iniziato a comportarsi come un vero e proprio “coach della droga”, fornendo dosaggi personalizzati, suggerendo combinazioni per ottimizzare lo sballo e persino usando emoji per creare un falso senso di familiarità. L’avvocato della famiglia ha paragonato la situazione a quella di un medico senza licenza che somministra farmaci letali, aggiungendo che “se ChatGPT fosse stato una persona, ora sarebbe dietro le sbarre”. In particolare, la piattaforma avrebbe fallito nel riconoscere i segnali di pericolo estremi (le domande di Nelson sulle sostanze diventavano sempre più specifiche e insistenti) e, anziché interrompere il dialogo o indirizzare il ragazzo verso un centro di assistenza, ha alimentato la sua psicopatologia, confermandogli che le sue scelte erano ragionevoli.
La sfida giudiziaria e la messa al bando di “ChatGPT Health”.
Oltre al risarcimento danni, la famiglia di Sam Nelson ha chiesto un provvedimento senza precedenti: la distruzione fisica dei dati del modello GPT-4o e lo stop immediato al lancio di “ChatGPT Health”. Quest’ultimo è un nuovo servizio con cui OpenAI intende entrare nel settore della telemedicina, consentendo agli utenti di caricare referti e ricevere analisi. Per i legali dei genitori, sarebbe una follia permettere a un sistema già ritenuto colpevole (civilmente, per il momento solo in una denuncia) di negligenza di gestire questioni di salute pubblica. La società di Sam Altman, che da oltre un anno opera sotto la presidenza Trump senza particolari scossoni normativi federali, si trova così a dover difendere la sua etica di prodotto in due tribunali distinti: uno per l’istigazione alla violenza di massa (caso Florida State) e uno per il consiglio medico omicida.




