Gli scienziati inventano una malattia che non esiste (e grazie all’ia ci abbiamo creduto)
Articolo Precedente
Articolo Successivo
Redazione Salute
-
Due anni fa, di questi tempi, il web ha fornito finalmente una risposta a tutti coloro che non riuscivano a spiegarsi quella strana sensazione agli occhi – prurito ai bulbi, palpebre che assumono una leggera sfumatura rosa – dopo ore passate davanti a uno schermo. Digitando quei sintomi, infatti, si incontravano articoli dall’apparenza rigorosa che parlavano di “bixonimania”, descrivendola come una rara iperpigmentazione legata all’esposizione alla luce blu. Peccato che la bixonimania, lo si è scoperto solo in seguito, non sia mai esistita se non come invenzione di una ricercatrice, Almira Osmanovic Thunström dell’Università di Göteborg, decisa a testare la credulità dei grandi modelli linguistici di intelligenza artificiale.
Una bufala virale nel cuore della medicina digitale
L’esperimento, riportato da Nature a firma di Chris Stokel-Walker, non poteva riuscire meglio: chatbot come Microsoft Copilot, Google Gemini, Perplexity AI e persino ChatGPT hanno preso per buona la patologia inesistente, arrivando a fornire raccomandazioni sanitarie dettagliate come se si trattasse di una condizione clinica reale. La bixonimania, secondo le risposte generate, causerebbe prurito perioculare, arrossamento e un alone scuro violaceo intorno agli occhi – sintomi così ben confezionati che nessun sistema ha sollevato obiezioni. La ricercatrice, proprio partendo da questo vuoto, ha voluto dimostrare quanto sia fragile il confine tra informazione autorevole e allucinazione tecnologica, in un settore – quello sanitario – dove ogni errore può trasformarsi in un rischio concreto per chi cerca risposte.
Quando l’intelligenza artificiale legittima il falso
Il punto centrale non è tanto la frode in sé, quanto la meccanica con cui l’IA ha inrato la menzogna. I modelli linguistici, si sa, non distinguono il vero dal falso: addestrati su enormi quantità di testi, riproducono pattern statistici. Se un paper scientifico – anche inventato – descrive la bixonimania con termini tecnici e citazioni credibili, il chatbot la restituirà come fatto accertato. La malattia fittizia è persino finita in discussioni accademiche e in alcuni database, generando un cortocircuito pericoloso: più l’IA ripete la bufala, più questa acquista apparente legittimità, e più gli utenti (e talvolta gli stessi ricercatori) finiscono per crederci.
Le implicazioni giudiziarie e investigative di un inganno scientifico
Non si tratta solo di un curioso episodio da laboratorio. In Italia come altrove, la diffusione di falsi diagnostici attraverso piattaforme accessibili a tutti solleva interrogativi sulla responsabilità penale e civile dei fornitori di IA. Se un paziente, dopo aver consultato Copilot o Gemini, interrompe una terapia vera o inizia un trattamento per una malattia inesistente, chi risponde del danno? Alcune procure hanno già iniziato a guardare con attenzione al fenomeno, anche se al momento nessuna inchiesta formale è stata aperta sul caso specifico della bixonimania. Quel che è certo è che la ricercatrice svedese, con un’operazione trasparente – ha pubblicato i risultati senza mai nascondere l’inganno – ha acceso un faro su un vuoto normativo ancora colmato solo da linee guida deboli.
La fragilità della conoscenza nell’era dei modelli generativi
L’aneddoto della bixonimania rivela una verità scomoda: la nostra fiducia nelle fonti digitali, inclusi gli strumenti di IA più avanzati, si basa spesso su un’illusione di autorità. Quegli stessi chatbot che diagnosticano patologie inventate vengono utilizzati da medici, studenti e giornalisti per accelerare ricerche o redigere referti. E se un errore di questo tipo si ripetesse su larga scala – magari con una malattia dal nome meno strano, capace di passare inosservata per anni – le conseguenze sarebbero incalcolabili. Per ora, la bixonimania resta un esperimento riuscito, un campanello d’allarme su cui pochi, però, sembrano disposti a riflettere davvero.
)
