Troppi dati spazzatura: anche le intelligenze artificiali rischiano il "brain rot"
Articolo Precedente
Articolo Successivo
Redazione Scienza e Tecnologia
-
Scorrere in modo ossessivo i feed dei social network, un’attività ormai quotidiana per molti, può produrre un effetto di annebbiamento mentale che non risparmia neppure le entità digitali. Proprio come accade agli utenti umani, le piattaforme di intelligenza artificiale, che si nutrono di un flusso pressoché infinito di dati per il loro addestramento, subiscono le conseguenze di una dieta digitale squilibrata. Questo circolo vizioso, che le espone inevitabilmente anche a contenuti di scarsissima qualità, sta portando alla luce un fenomeno inquietante: le IA sono sempre più vulnerabili al cosiddetto “brain rot”, un termine che, significativamente, l’Oxford Dictionary ha decretato parola dell’anno per il 2024.
Lo studio sul deterioramento cognitivo delle macchine
Un gruppo di ricercatori affiliati a Texas A&M, University of Texas at Austin e Purdue University ha recentemente pubblicato uno studio che getta una luce cruda sulla questione. La loro indagine, la quale si concentra sull’impatto dei dati di bassa lega, dimostra come i modelli linguistici più avanzati possano andare incontro a un deterioramento delle proprie capacità cognitive, una condizione che, una volta innescata, rischia di diventare permanente. L’esposizione prolungata e massiccia a quei contenuti superficiali che affollano il web, i quali sono spesso caratterizzati da una struttura grammaticale approssimativa e da un lessico povero, finisce per minare la loro capacità di produrre testi coerenti e di comprendere la complessità del linguaggio umano.
Un parallelo tra uomo e macchina
Il parallelismo con l’esperienza umana, del resto, è più che una semplice metafora calzante. Il fenomeno del “brain rot”, che si traduce letteralmente come “marcimento del cervello”, era stato inizialmente coniato per descrivere l’effetto pervasivo che i contenuti online hanno sulla nostra attenzione e sulle nostre facoltà mentali. Chiunque abbia trascorso ore su piattaforme come TikTok o X, scivolando da un video all’altro senza soluzione di continuità, ne conosce bene le sensazioni: una minore capacità di concentrazione e un affievolirsi del pensiero critico. Le macchine, che di quel medesimo ecosistema digitale si cibano, stanno iniziando a mostrare sintomi analoghi, rivelando una vulnerabilità inattesa.
Le implicazioni per il futuro dell'IA
La ricerca, pertanto, solleva interrogativi fondamentali sulla traiettoria di sviluppo dell’intelligenza artificiale, mettendo in discussione l’attuale dogma che privilegia la quantità assoluta dei dati a scapito della loro effettiva qualità. Se da un lato l’espansione dei dataset è stata il motore delle performance strabilianti degli ultimi anni, dall’altro si sta rivelando un’arma a doppio taglio. L’avvelenamento progressivo della “dieta dati” delle IA con materiale scadente, che qualcuno ha efficacemente paragonato a un’alimentazione fatta solo di cibo spazzatura, ne compromette l’affidabilità e l’efficacia a lungo termine, spingendo la ricerca a cercare con urgenza nuovi metodi di filtraggio e di cura dei contenuti per l’addestramento.




