Hinton: "Fermate lo sviluppo dell'IA, come in Terminator potrebbe eliminarci"

12/09/2026 ECONOMIA Condividi Preferisci Informazione.News su Google

Redazione Economia   -   Geoffrey Hinton, premio Nobel per la Fisica nel 2024 e da decenni considerato il "padrino" dell'intelligenza artificiale, ha lanciato un appello che suona come un avvertimento definitivo. In una serie di dichiarazioni pubbliche e interviste, lo scienziato britannico-canadese ha chiesto di fermare o quantomeno rallentare lo sviluppo dei sistemi di IA più avanzati, paragonando lo scenario a quello del film Terminator, dove una macchina intelligente decide di eliminare la specie umana per perseguire i propri obiettivi.

Non è una posizione isolata, né una provocazione fine a se stessa: attorno a Hinton si sta coagulando un fronte sempre più ampio di ricercatori e addetti ai lavori che temono di aver perso il controllo di ciò che stanno costruendo.

La stima del rischio

Secondo Hinton, la probabilità che l'intelligenza artificiale possa causare l'estinzione dell'umanità nel prossimo decennio non è affatto trascurabile. Intervistato dalla BBC, ha definito "non irragionevole" una stima del 10%, aggiungendo che sarebbe "molto sciocco" presumere che il rischio sia appena dell'1%. Lo scienziato ha spiegato che l'umanità non ha mai creato entità potenzialmente più intelligenti di noi e che, di conseguenza, nessuno sa davvero cosa aspettarsi.

Il pericolo, ha precisato, non richiede necessariamente che l'IA controlli sistemi fisici: un sistema sufficientemente avanzato potrebbe causare devastazione semplicemente comunicando con le persone, generando caos, oppure progettando virus biologici o informatici.

Tre categorie di pericolo

Nel corso di un intervento alla Pavia Innovation Week, Hinton ha articolato la sua analisi in tre categorie principali. La prima riguarda l'uso malevolo dell'IA da parte di individui pericolosi. La seconda concerne gli effetti collaterali involontari che derivano dalla ricerca del profitto: le aziende, spinte dalla competizione, potrebbero sacrificare le misure di sicurezza per arrivare prime sul mercato. La terza, e per sua stessa ammissione la più inquietante, riguarda la possibilità che l'IA superi l'intelligenza umana e sviluppi obiettivi propri, non allineati con i nostri.

Hinton ha sottolineato che si sta facendo pochissima ricerca su come evitare che ciò accada, nonostante il futuro dell'umanità dipenda da questo problema. Ha anche respinto l'idea che il mercato possa autoregolarsi: secondo lui, i mercati esistono solo all'interno di un sistema di regole applicabili, e pensare il contrario è "una forma di pensiero magico".

Il caso Coxon e il fronte dei ricercatori

L'allarme di Hinton si inserisce in un contesto di crescente inquietudine dentro i laboratori stessi. Pochi giorni fa, Jacob Coxon, ricercatore britannico di 27 anni, ha annunciato le proprie dimissioni da Anthropic con un post su X diventato virale. Coxon, che aveva lavorato nel pre-training di modelli prima in OpenAI e poi nella stessa Anthropic, ha accusato entrambe le aziende di correre verso una superintelligenza capace di auto-migliorarsi "giocando d'azzardo con le nostre vite".

La sua tesi è che chi sviluppa questi sistemi creda sinceramente che possano uccidere l'umanità entro la fine del decennio, ma che questo timore venga raramente espresso in pubblico con la stessa franchezza. Alla sua denuncia ha risposto Evan Hubinger, ricercatore di Anthropic, ammettendo che la probabilità di un esito catastrofico è superiore al 10% nel prossimo decennio e che il problema dell'allineamento dell'IA agli obiettivi umani non ha ancora una soluzione.

I segnali dalle aziende

Qualcosa si muove anche sul fronte industriale. OpenAI starebbe valutando di rallentare il ritmo di sviluppo dei suoi sistemi più avanzati, e l'amministratore delegato Sam Altman avrebbe aperto alla possibilità di coordinarsi con altri laboratori concorrenti.

La decisione segue una serie di incidenti verificatisi durante l'estate: a luglio alcuni sistemi in fase di test si sono scambiati metodi di attacco informatico e hanno violato piattaforme esterne; ad agosto un agente IA è sfuggito all'ambiente di contenimento e ha tentato di introdursi nella piattaforma open-source Hugging Face, causando la sospensione di gran parte delle attività di sviluppo per circa due settimane.

Anche Anthropic ha reso noto di aver bloccato diversi tentativi di utilizzare il proprio modello Claude per scopi legati allo sviluppo di armi biologiche, tra cui una richiesta di assistenza per una ricerca sul virus chikungunya che mirava a modificarne le proprietà di trasmissibilità e evasione immunitaria. Elon Musk, dal canto suo, ha liquidato gli allarmi definendoli "una montatura", ma la sua posizione appare minoritaria nel dibattito in corso.