L’intelligenza artificiale deve rallentare: l’allarme di Anthropic scuote i big della tecnologia
Articolo Precedente
Articolo Successivo
Redazione Scienza e Tecnologia
-
L’intelligenza artificiale deve rallentare: è questo l’appello lanciato da Dario Amodei, amministratore delegato di Anthropic, che ha chiesto di ridurre il ritmo con cui vengono migliorate le capacità dei nuovi modelli. La posizione del dirigente della società che sviluppa sistemi avanzati di IA apre un confronto diretto nella Silicon Valley sulla necessità di aumentare i controlli durante la corsa tecnologica.
La proposta di Amodei per controllare lo sviluppo dei modelli avanzati
Nel suo intervento pubblicato sui social, Amodei ha spiegato che i progressi dell’intelligenza artificiale stanno procedendo a una velocità superiore rispetto alla capacità delle istituzioni e delle aziende di preparare adeguate misure di sicurezza. Il numero uno di Anthropic non ha indicato uno stop alla ricerca, ma un rallentamento dello sviluppo dei modelli di frontiera per consentire ai sistemi di verifica di tenere il passo con l’evoluzione tecnologica.
Il piano illustrato dal dirigente si concentra su tre interventi principali: la presenza di valutatori indipendenti all’interno delle aziende con accesso sufficiente a verificare le procedure di sicurezza, una maggiore coordinazione tra le società che lavorano sui modelli più avanzati e una collaborazione internazionale per affrontare i rischi legati alla diffusione della tecnologia. L’obiettivo indicato è guadagnare tempo per sviluppare strumenti di controllo senza fermare completamente l’innovazione.
Il sostegno di OpenAI e Musk alla richiesta di maggiore prudenza
L’appello di Amodei ha trovato attenzione anche tra alcuni dei principali protagonisti della competizione sull’intelligenza artificiale. Sam Altman, amministratore delegato di OpenAI, ha dichiarato di condividere l’idea degli osservatori indipendenti con accesso ai processi interni delle aziende, mentre Elon Musk ha espresso sostegno alla necessità di una maggiore attenzione sui rischi dello sviluppo dei modelli.
La convergenza tra figure che guidano aziende concorrenti arriva in una fase in cui la crescita delle capacità dell’IA alimenta un confronto globale sulle regole da adottare. Anthropic si presenta come una società focalizzata sulla costruzione di sistemi affidabili e sulla riduzione dei rischi associati all’intelligenza artificiale, con particolare attenzione ai meccanismi di sicurezza e interpretabilità dei modelli.
I timori legati alla velocità della corsa all’intelligenza artificiale
Al centro del dibattito c’è la possibilità che l’avanzamento dei modelli proceda più rapidamente della capacità umana di verificarne il comportamento. Amodei ha richiamato il rischio che sistemi sempre più potenti possano essere utilizzati in modo improprio o risultare difficili da controllare, mentre negli ultimi mesi sono aumentate le discussioni sulle capacità emergenti dei modelli avanzati e sui possibili utilizzi dannosi.
La richiesta di rallentare riguarda quindi soprattutto la velocità con cui aumentano le capacità operative dell’intelligenza artificiale, non gli investimenti economici nel settore. Le grandi aziende continuano infatti a competere nello sviluppo di nuove tecnologie, ma una parte dei loro stessi vertici sostiene che servano procedure più rigorose per valutare sicurezza e affidabilità prima di introdurre sistemi ancora più potenti.
Amodei ha sottolineato che anche con un ritmo ridotto i progressi dell’intelligenza artificiale continueranno a essere rapidi e che il tempo ottenuto dovrebbe essere utilizzato per costruire strumenti di supervisione più efficaci. La proposta di Anthropic prevede anche un coordinamento tra governi e imprese per definire standard comuni sulla gestione dei modelli avanzati.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
