Google rilascia DiffusionGemma, il modello open che genera

Articolo Precedente

precedente
Articolo Successivo

successivo

Redazione Scienza e Tecnologia Redazione Scienza e Tecnologia   -   Il gigante di Mountain View, che già al Google I/O del 2025 aveva lasciato intravedere le potenzialità dei modelli di diffusione testuale con il progetto sperimentale Gemini Diffusion, ha infine trasformato quella breve parentesi in una realtà concreta e accessibile a tutti.

A distanza di un anno esatto da quelle promesse, Google DeepMind ha infatti rilasciato DiffusionGemma, un modello open weight (con pesi aperti, anche se la definizione precisa sarebbe "open weights") che, a differenza dei tradizionali Large Language Model, non scrive parola per parola, ma ragiona e genera interi blocchi di testo in parallelo.

Questa architettura, che ricorda da vicino il funzionamento dei generatori di immagini come Stable Diffusion, parte cioè da una "tela" di token casuali per poi affinarla attraverso passaggi iterativi, promette di rivoluzionare i flussi di lavoro locali, dove la latenza e la velocità di risposta rappresentano da sempre il principale collo di bottiglia.

La nuova creatura di DeepMind, che si basa sulla famiglia di modelli Gemma 4 adottando un’architettura "Mixture of Experts" da 26 miliardi di parametri totali, ne attiva in realtà solo 3,8 miliardi durante l’inferenza, il che la rende sorprendentemente gestibile anche su hardware consumer di fascia alta. I dati diffusi da Google parlano chiaro: su una GPU NVIDIA H100 si superano abbondantemente i 1.000 token al secondo, mentre su una più accessibile RTX 5090 si raggiungono i 700 token al secondo, con un incremento di velocità che, a seconda dei carichi di lavoro, può arrivare a essere quattro volte superiore rispetto a un modello autoregressivo equivalente.

Questa efficienza, come spiegano i tecnici, deriva dal fatto che invece di "leggere" una lettera alla volta come una vecchia macchina da scrivere, il sistema funziona come una stampa a pressione, elaborando una planata di 256 token in un singolo forward pass grazie a una meccanismo di attenzione bidirezionale che permette al modello di vedere l'intera "futura" frase mentre la sta ancora scrivendo.

L'architettura a diffusione e i compromessi sulla qualità

Nonostante l’entusiasmo per la velocità, gli stessi ricercatori di Google hanno voluto precisare – ed è un aspetto cruciale per chi cerca la massima precisione – che questa corsa contro il tempo impone dei sacrifici in termini di qualità pura del testo. Nei benchmark standard, DiffusionGemma perde tra i 5 e i 19 punti percentuali rispetto al suo fratello maggiore autoregressivo, un divario che ne definisce chiaramente il posizionamento sul mercato.

Non è nato per scrivere romanzi o analisi legali complesse, ma per eccellere in quei contesti dove la reattività è sovrana: l’editing in tempo reale, l’autocompletamento del codice (specialmente in linguaggi come il Python o il C++ dove la struttura è rigida), la formattazione di tabelle in markdown, o la generazione di strutture non lineari come sequenze di amminoacidi o semplici giochi.

Un esempio lampante di questa specializzazione arriva dal team di Unsloth, che è riuscito a fine-tunare DiffusionGemma per giocare a Sudoku, un rompicapo dove le relazioni tra i numeri futuri e quelli passati sono inscindibili; l’attenzione bidirezionale permette al modello di risolvere il puzzle con una scioltezza che i modelli tradizionali, costretti a guardare solo al passato, non riescono a eguagliare.

Potenziamento locale e novità per gli sviluppatori Mac

Parallelamente all’esplosione di questo nuovo paradigma computazionale, Google ha deciso di potenziare ulteriormente il suo ecosistema desktop, in particolare quello degli utenti Mac, che spesso lavorano in mobilità o senza connessione stabile. L’azienda ha infatti presentato Google AI Edge Gallery, un’applicazione disponibile anche su macOS che consente di eseguire i modelli Gemma in locale, senza necessità di inviare i propri dati al cloud.

Tra i modelli scaricabili, spicca la versione da 12 miliardi di parametri (la 12B-it) che, con soli 16 Gigabyte di RAM, è in grado di processare testi, immagini e audio direttamente sul chip del computer, garantendo una privacy totale e zero latenza di rete. Questa mossa, che accompagna il rilascio di DiffusionGemma su Hugging Face con licenza Apache 2.0, sembra delineare una strategia chiara da parte di Big G: spostare il più possibile il carico inferenziale dal server alla macchina locale, puntando tutto sulla velocità di esecuzione su singolo acceleratore.

L’azienda, consapevole dei limiti qualitativi del nuovo modello, lo ha definito "sperimentale", ma la mole di supporto ricevuta da NVIDIA – con ottimizzazioni dedicate sui Tensor Core e su sistemi come DGX Spark – tradisce un interesse ben più concreto. Che si tratti di scrivere un’email, riempire una struttura di codice in un IDE o semplicemente trascrivere un appunto vocale senza le classiche esitazioni (un problema che la nuova app "Eloquent" risolve con la pulizia automatica dei "ehm" e dei "uhm"), la sensazione è che il settore stia vivendo un cambio di paradigma.

Se fino a ieri la corsa era a chi produceva il testo più "intelligente", oggi la sfida sembra spostarsi su chi riesca a generarlo più velocemente, sfruttando ogni singolo ciclo di clock della GPU, e Google ha appena piazzato una pedina fondamentale su questa nuova scacchiera.

Puoi condividere questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.