Il chatbot e la strage impossibile: come OpenAI valutò il rischio rappresentato da Jesse Van Rootselaar senza allertare le autorità

23/02/2026 ESTERI Preferisci Informazione.News su Google

Redazione Esteri   -   Era il giugno del 2025 quando i sistemi di monitoraggio automatico di OpenAI, quelli progettati per scovare eventuali utilizzi anomali o pericolosi dei loro modelli di intelligenza artificiale, identificarono un account che stava interagendo con ChatGPT in modo preoccupante. L’utente, un diciottenne canadese di nome Jesse Van Rootselaar, stava intavolando conversazioni incentrate su scenari di violenza con armi da fuoco, descrivendo situazioni e chiedendo, a quanto è dato sapere, consigli su come organizzare un’azione letale -4. I tecnici e i dipendenti incaricati della revisione di questi contenuti si trovarono di fronte a un bivio: da un lato le policy aziendali, che impongono la massima attenzione nel maneggiare dati sensibili e nel preservare la privacy degli utenti; dall’altro, il timore, concreto e tangibile, che quelle parole potessero trasformarsi in un progetto criminale -1-8.

La discussione, che secondo quanto riportato dal Wall Street Journal coinvolse circa una dozzina di membri dello staff, si concentrò sulla possibilità di varcare quella soglia così delicata che separa la semplice rimozione di un profilo dall’allarme formale alle forze dell’ordine -1-8. Alcuni tra loro, preoccupati dall’escalation verbale e dalla meticolosità con cui Van Rootselaar descriveva le sue intenzioni, spinsero perché i vertici contattassero la polizia. Dall’altra parte della barricata, però, prevalse una linea più prudente: OpenAI, pur procedendo con la sospensione dell’account, decise di non segnalare il caso alle autorità canadesi, ritenendo che il contenuto delle chat non configurasse un pericolo imminente e concretamente pianificato per l’incolumità altrui -2-5. La decisione, come si legge in una nota ufficiale della società, mirava a evitare i rischi legati a una notifica eccessivamente zelante, con il potenziale disagio di far bussare gli agenti alla porta di un ragazzo senza che vi fossero i presupposti per un’azione preventiva immediata -3.

Il destino, purtroppo, ha trasformato quella discussione interna in un tragico caso di studio. Il 10 febbraio di quest’anno, a Tumbler Ridge, nella British Columbia, Van Rootselaar ha fatto irruzione nella scuola secondaria locale, aprendo il fuoco e uccidendo sei persone tra studenti e personale, prima di togliersi la vita -5-8. In una residenza privata, le autorità hanno trovato senza vita anche la madre e il fratellastro del ragazzo, portando a otto il numero totale delle vittime -1-8. Solo a strage avvenuta, OpenAI ha invertito la rotta: l’azienda ha contattato la Polizia a cavallo canadese, offrendo la propria collaborazione e fornendo tutti i dati in loro possesso relativi all’account dell’autore della strage -2-10. Una collaborazione, questa, che è comunque arrivata con un certo ritardo, visto che il primo contatto con le autorità governative locali, avvenuto il giorno successivo alla sparatoria durante un incontro programmato per discutere dell’espansione dell’azienda in Canada, non aveva incluso alcuna menzione di questi precedenti digitali -5.

La linea d'ombra tra prevenzione e privacy

La vicenda di Jesse Van Rootselaar, il cui account era stato bandito da ChatGPT già sette mesi prima della tragedia, riaccende il dibattito sul ruolo che le aziende tecnologiche devono giocare nella sorveglianza preventiva -2. La policy di OpenAI, come chiarito più volte, prevede l’intervento diretto delle forze dell’ordine solo in presenza di un rischio credibile e imminente, una definizione che nella pratica si rivela scivolosa e difficile da interpretare. Nel caso specifico, i dirigenti valutarono che le domande del ragazzo, per quanto agghiaccianti, non contenessero quel quid in più, quel dettaglio operativo o quella tempistica definita che avrebbe potuto far scattare l’allarme rosso -5. D’altronde, gli stessi sistemi sono addestrati per scoraggiare attivamente la violenza e rifiutare assistenza su attività illegali, un meccanismo che a volte può ingabbiare le conversazioni in un limbo di ambiguità -1.

Le ripercussioni di questa scelta, però, gettano un’ombra inquietante sul futuro dell’interazione uomo-macchina. Gli stessi strumenti che potrebbero potenzialmente intercettare segnali di disagio estremo o di pianificazione criminale si trovano impantanati in una palude fatta di cautele legali, timori di over-enforcement e rispetto della riservatezza -3. La domanda, a questo punto, sorge spontanea: quanti altri profili come quello di Van Rootselaar sono stati silenziosamente rimossi senza che nessuno, al di fuori degli uffici di OpenAI, ne abbia mai saputo nulla? Il confine tra l’essere uno strumento di supporto quotidiano e un potenziale testimone muto di intenzioni omicide si fa sempre più labile, e la tecnologia, oggi più che mai, si trova a dover fare i conti con una responsabilità che non aveva previsto.