Muse di Meta crea schede dettagliate su amici e conoscenti, anche senza il loro consenso
Articolo Precedente
Articolo Successivo
Redazione Economia
-
Muse, il nuovo agente di intelligenza artificiale personale presentato da Meta, è al centro di una controversia che investe la gestione dei dati personali e le modalità con cui il sistema costruisce la propria memoria a lungo termine. Secondo un'inchiesta di Wired, ripresa da diverse testate italiane, l'assistente creato dall'azienda di Mark Zuckerberg sarebbe in grado di generare schede informative dettagliate per ogni persona menzionata dagli utenti nel corso delle conversazioni.
Un sistema di profilazione relazionale
A portare alla luce il meccanismo sarebbe stata una ricerca indipendente condotta da Karan Joshi, esperto di sicurezza e intelligenza artificiale, che è riuscito a estrarre i comandi interni di Muse utilizzando l'interfaccia di chat standard per chiedere all'agente di copiare e condividere i propri file di sistema. All'interno di questi documenti sarebbe emersa un'istruzione esplicita che impone al sistema di creare una pagina dedicata a ciascuna figura presente nella vita dell'utente, con aggiornamenti che possono avvenire anche ogni ora.
La mappatura riguarderebbe indistintamente familiari, partner, amici, colleghi di lavoro e persone che l'utente segue sui social network.
Contenuti e finalità delle schede
Le schede in questione possono iniziare vuote e arricchirsi progressivamente con informazioni tratte dai dialoghi quotidiani e dal contesto a cui l'agente ha accesso. Stando alle istruzioni operative, le categorie previste includono dati fattuali sulla persona, la storia condivisa con l'utente, gli interessi comuni, i temi pendenti e persino una sezione denominata "Rafforzamento", dedicata a suggerimenti su come coltivare e consolidare la relazione.
Muse potrebbe quindi registrare dove vive un conoscente, quale sia la sua professione, date importanti come compleanni o anniversari, e persino episodi specifici come un viaggio fatto insieme o una discussione risolta. Meta, nelle istruzioni analizzate, raccomanda al sistema di basarsi esclusivamente sulle informazioni effettivamente disponibili, considerando una scheda incompleta preferibile a dettagli inventati.
Il nodo del consenso e l'ambito di applicazione
La questione sollevata dai ricercatori riguarda soprattutto l'assenza di un consenso esplicito da parte delle persone profilate. Nel centro assistenza in italiano di Meta compare un avvertimento destinato a "le persone che non usano Muse", nel quale si specifica che "quando altre persone usano Muse, potrebbero essere fornite a Muse informazioni che ti riguardano, anche se tu non usi direttamente Muse".
L'agente è attualmente disponibile negli Stati Uniti, in Canada e in Messico, ma questo non impedisce che vengano raccolte e organizzate informazioni su cittadini europei o italiani che compaiano nella vita di un utente residente in quei Paesi.
Le misure di sicurezza previste da Meta
Sul fronte tecnico, Meta ha progettato Muse per operare all'interno di una macchina virtuale dedicata a ciascun utente, denominata Muse Secure VM, isolata dagli altri agenti e contenente i dati e le credenziali dei servizi collegati. Un sistema separato chiamato Sentinel supervisiona le azioni dell'agente, bloccando qualsiasi accesso a Internet non autorizzato.
Secondo l'azienda, Muse non ha visibilità sulle password o sui metodi di pagamento degli utenti e richiede una conferma umana prima di compiere azioni sensibili come inviare un'email o effettuare un acquisto. Gli utenti possono inoltre modificare o revocare l'accesso ai servizi in qualsiasi momento e richiedere che specifiche informazioni vengano dimenticate.
Puoi riutilizzare questo articolo o riprenderne i contenuti, anche parzialmente, citando la fonte con link attivo a informazione.news, il portale online di notizie e approfondimenti.
