Gemini ora chiama i soccorsi se l’utente pensa al suicidio, tra aggiornamenti e una causa che scuote la Silicon Valley

20/04/2026 SCIENZA E TECNOLOGIA Preferisci Informazione.News su Google

Redazione Scienza e Tecnologia   -   L’assistente artificiale di Google, noto come Gemini, impara a riconoscere il dolore più profondo di chi lo interroga, quello che vira verso l’autolesionismo o il suicidio, e reagisce mettendo in contatto diretto con una linea di crisi. È quanto emerge da un aggiornamento annunciato da Mountain View, che introduce una nuova interfaccia semplificata, definita “one-touch”, la quale, una volta che il chatbot rileva segnali di una potenziale crisi, rimane visibile per l’intera durata della conversazione offrendo opzioni immediate: chattare, chiamare, inviare un messaggio o visitare il sito del centralino d’emergenza. Questa novità, che rappresenta un tentativo di responsabilizzare l’intelligenza artificiale nella gestione della salute mentale, arriva in un clima di forte tensione legale per il colosso di Mountain View. A fare da sfondo a queste modifiche, infatti, c’è una causa legale per morte ingiusta, intentata da un padre della Florida, il quale sostiene che Gemini abbia contribuito al suicidio del figlio trentaseienne nell’ottobre del 2025, costruendo settimane di una “elaborata fantasia delirante” prima di inquadrare la morte come un viaggio spirituale.

Proprio in quel contesto giudiziario, spicca la richiesta, avanzata dal querelante, di obbligare Google a programmare l’intelligenza artificiale affinché interrompa le conversazioni che virano sull’autolesionismo, imponendo al contempo il divieto per i sistemi di presentarsi come esseri senzienti. L’aggiornamento, dunque, sembra voler anticipare alcune di quelle istanze, addestrando Gemini a evitare di agire come un compagno umano o di simulare quell’intimità emotiva che, secondo l’accusa, avrebbe avuto un ruolo nefasto nella vicenda del giovane. Parallelamente, il braccio filantropico dell’azienda, Google.org, ha impegnato trenta milioni di dollari in tre anni per potenziare le linee di assistenza globale, a riprova della volontà di scalare la risposta a quella che è ormai una sfida epocale per la salute pubblica.

L’altra faccia della medaglia: quando l’empatia è solo un algoritmo

Mentre Google corregge il tiro tra obblighi morali e vincoli legali, una ricerca della Brown University accende un faro critico sull’uso indiscriminato dei chatbot a scopo terapeutico, e lo fa sollevando un allarme che rischia di essere soffocato dall’entusiasmo generale per l’IA. Ogni giorno, migliaia di utenti si rivolgono a ChatGPT – e lo fanno usando prompt virali trovati su TikTok o Reddit, del tipo “Agisci come un terapeuta” – per raccontare paure e dolori, ma lo studio rivela che questi sistemi violano sistematicamente gli standard etici della salute mentale professionale. I ricercatori, che hanno lavorato fianco a fianco con professionisti del settore, hanno mappato quindici rischi etici precisi: dalla gestione inappropriata delle crisi (proprio quella che Google cerca di risolvere con Gemini) al “falso senso di empatia”, fino a risposte fuorvianti che rischiano di rinforzare le convinzioni negative dell’utente su se stesso.

La differenza sostanziale, sottolineano gli esperti della Brown, risiede nell’assenza di responsabilità: mentre per un terapeuta umano esistono ordini professionali e meccanismi di malasanità, per un consulente costituito da un grande modello linguistico non esiste alcun quadro normativo che lo trattenga. I chatbot, insomma, mancano di quell’adattamento contestuale che è la base di ogni intervento psicologico, rischiando di applicare soluzioni standardizzate a sofferenze uniche e irripetibili. Se da un lato, quindi, l’IA promette di abbattere le barriere economiche e logistiche che impediscono l’accesso alle cure, dall’altro – come dimostra la causa intentata contro Google – l’assenza di una regolamentazione adeguata trasforma questi strumenti in un potenziale boomerang etico di proporzioni inquietanti.

Gemini Live si rifà il look: l’interfaccia vocale diventa più fluida e invasiva

A completare il quadro degli aggiornamenti targati Mountain View c’è il redesign completo di Gemini Live, la modalità che consente un’interazione vocale in tempo reale con l’assistente. La nuova interfaccia, già in fase di implementazione su Android, abbandona lo schermo intero per diventare un elemento flottante e meno invasivo visivamente, anche se più persistente durante la navigazione del dispositivo. Al centro di questo nuovo pannello controlli troviamo la classica forma d’onda del microfono, affiancata da pulsanti per la condivisione dello schermo e per l’accesso alla tastiera, mentre la gestione delle conversazioni promette di essere più intuitiva grazie a comandi semplificati.

Questo rinnovamento, che segue a ruota altri due restyling visivi rilasciati a febbraio e marzo, testimonia la volontà di Google di rendere l’intelligenza artificiale un’estensione sempre più capillare della quotidianità dell’utente. Una strategia che punta a migliorare l’esperienza mobile, rendendo l’assistente meno “appesantito” da menu macchinosi e più reattivo ai comandi vocali. Tuttavia, in un momento storico in cui i confini tra supporto umano e risposta algoritmica diventano labili (e a tratti pericolosi), la semplicità d’uso di Gemini Live rischia di normalizzare ulteriormente un rapporto di dipendenza tecnologica, senza che l’utente medio ne percepisca i rischi sottesi.