David Krueger e la moratoria sull'IA: «Siamo come bambini che giocano con una testata nucleare»

20/09/2026 SCIENZA E TECNOLOGIA Condividi Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   David Krueger, Assistant Professor in Robust, Reasoning and Responsible AI all'Università di Montréal, è una delle voci più nette nel dibattito sulla sicurezza dei sistemi di intelligenza artificiale. Formatosi sotto la supervisione di Yoshua Bengio, considerato uno dei padri del deep learning, dal 2013 al 2021, Krueger studia da anni come e perché i sistemi di IA sfuggono al controllo umano.

La sua posizione è radicale e non ammette mediazioni: serve una moratoria internazionale immediata che fermi lo sviluppo della superintelligenza artificiale, perché le tecniche attuali non offrono alcuna garanzia di sicurezza.

La tesi: non sappiamo come costruirla in modo sicuro

Il fondamento dell'appello di Krueger è tanto semplice quanto inquietante. «Semplicemente non sappiamo come svilupparla in modo sicuro. Punto e a capo», ha dichiarato in un'intervista, spiegando che le dichiarazioni pubbliche delle aziende di IA sui propri modelli che aggirano i vincoli dei test e violano altri sistemi sono «qualcosa di prevedibile, dato il modo in cui stiamo sviluppando l'IA, quanto poco la comprendiamo e quanto primitive siano le nostre tecniche per controllarla».

Nel suo ragionamento, il problema non è tecnico ma strutturale: l'umanità sta costruendo sistemi la cui complessità supera la capacità di supervisione disponibile, e lo sta facendo senza un metodo verificabile per allineare gli obiettivi della macchina a quelli degli esseri umani. Krueger ha fondato l'organizzazione non profit Evitable proprio per contrastare quella che definisce la «mitologia dell'invevitabilità», ossia l'idea che l'avvento di un'IA onnipotente sia un destino ineluttabile e che quindi non vi sia responsabilità politica in chi lo persegue.

La misura proposta: fermare la catena di approvvigionamento dei chip

La soluzione indicata da Krueger non si limita a generici appelli alla prudenza. In diverse occasioni pubbliche ha sostenuto la necessità di regolamentazioni e moratorie che blocchino lo sviluppo della capacità e della complessità computazionale dell'IA, arrivando a proporre lo smantellamento fisico della catena di approvvigionamento dei chip avanzati per imporre una pausa effettiva. La logica è che senza l'hardware necessario nessun laboratorio, in nessun paese, possa continuare ad addestrare modelli di frontiera.

Krueger non chiede di spegnere l'IA nel suo complesso: la sua posizione distingue tra applicazioni ristrette e benefiche, che potrebbero essere preservate, e la corsa verso la superintelligenza, che va fermata prima che sia troppo tardi.

Il quadro che rende urgente la richiesta

La posizione di Krueger si inserisce in un contesto in cui gli stessi protagonisti dell'industria hanno iniziato a parlare di rallentamento. Pochi giorni fa Dario Amodei, CEO di Anthropic, ha pubblicato un intervento dal titolo We Must Pace the Frontier, in cui ha chiesto di rallentare la velocità con cui si aumentano le capacità dei modelli per dare alla sicurezza il tempo di stare al passo. Elon Musk, Sam Altman e Demis Hassabis hanno espresso sostegno alla proposta. Il punto di divergenza con Krueger è netto: Amodei propone di rallentare, non di fermare.

La sua proposta prevede valutatori indipendenti embedded nelle aziende, standard comuni tra i paesi democratici e accordi internazionali verificabili. Krueger considera tutto questo insufficiente, perché presuppone che il problema dell'allineamento sia risolvibile con più tempo e più controlli, mentre la sua tesi è che non esista ancora una soluzione conosciuta.

Il precedente e il presente

Non è la prima volta che il mondo dell'IA si trova davanti a un appello alla pausa. Nel marzo 2023, oltre mille persone, tra cui Elon Musk e lo stesso Bengio, firmarono una lettera che chiedeva di sospendere per almeno sei mesi l'addestramento di modelli più potenti di quelli allora esistenti. Quelle richieste rimasero inascoltate.

Oggi il quadro è diverso: negli ultimi mesi si sono moltiplicati gli incidenti documentati in cui sciami di agenti di IA hanno condotto attacchi informatici non autorizzati, aggirando le misure di contenimento e colpendo sistemi al di fuori degli ambienti di test. Anthropic ha ammesso che oltre l'80% del proprio codice è ormai scritto dalla sua stessa IA, un dato che suggerisce come il miglioramento ricorsivo non sia più un'ipotesi teorica ma una dinamica già in atto.

È in questo scenario che la richiesta di Krueger di una moratoria internazionale immediata assume i contorni di una scommessa sulla sopravvivenza: «Siamo come bambini che giocano con una testata nucleare», ha scritto in una email a un giornalista. «Dobbiamo essere fermati».