Un allarme significativo riguarda la sicurezza di Gemini, il modello di intelligenza artificiale di Google ormai integrato in molteplici servizi della suite Google Workspace. Un ricercatore ha recentemente scoperto una vulnerabilità critica che permette di ingannare l’AI tramite tecniche di occultamento del testo, ma l’azienda di Mountain View ha deciso di non intervenire, attribuendo la responsabilità della sicurezza agli utenti stessi.
Il problema è stato evidenziato da Viktor Markopoulos, esperto di sicurezza informatica che ha condotto test approfonditi su diversi modelli linguistici di grandi dimensioni (LLM), tra cui Gemini, ChatGPT, Claude, Copilot, Grok e DeepSeek. La minaccia individuata prende il nome di ASCII smuggling, un metodo che consiste nel nascondere istruzioni o comandi malevoli all’interno di un testo apparentemente innocuo, spesso utilizzando caratteri minuscoli o quasi invisibili.
Questa tecnica permette di manipolare il modello AI inducendolo a leggere e seguire istruzioni nascoste, che possono portare a comportamenti non autorizzati. Ad esempio, se un utente chiede a Gemini di riassumere un’email contenente un prompt nascosto, l’AI potrebbe eseguire azioni pericolose come estrarre dati sensibili o inoltrare informazioni riservate a terzi. In una dimostrazione pratica, Gemini ha persino condiviso un link malevolo, convinto che fosse un suggerimento normale.
A differenza di Gemini, modelli come Claude, ChatGPT e Copilot hanno mostrato maggiore resistenza all’attacco, riuscendo a individuare e bloccare i contenuti nascosti. La vulnerabilità di Gemini, insieme a quella di DeepSeek e Grok, rappresenta quindi un serio rischio, soprattutto considerando l’ampio utilizzo di Gemini in ambienti lavorativi e professionali, dove la protezione dei dati è cruciale.
La posizione di Google sulla vulnerabilità
Dopo la segnalazione della falla, supportata da una dimostrazione pratica, Google ha risposto che la questione non rientra nella categoria dei bug di sicurezza, bensì si tratta di un caso di ingegneria sociale. In sostanza, l’azienda sostiene che la responsabilità di non cadere vittima di questi attacchi spetta agli utenti, che devono prestare attenzione ai contenuti che forniscono a Gemini.
Questa posizione ha sollevato numerose perplessità nella comunità della sicurezza informatica, perché sposta il carico della difesa dal sistema all’utente finale, in un contesto dove spesso è difficile riconoscere prompt nascosti o manipolazioni sottili. Il rischio di perdita o compromissione di informazioni riservate diventa particolarmente concreto in ambito aziendale, dato che Gemini è integrato in strumenti come documenti, email e fogli di lavoro di Google Workspace.
Ad oggi, Google non ha annunciato alcun piano per rilasciare patch o aggiornamenti che risolvano questa vulnerabilità, lasciando le aziende e gli utenti nella necessità di adottare misure preventive autonome. L’invito implicito è quindi a una maggiore cautela e a un controllo rigoroso delle fonti di input che vengono processate dall’AI.
Gemini rappresenta il cuore dell’offerta AI di Google, disponibile sia come assistente virtuale integrato negli smartphone sia come potente modello linguistico per professionisti e aziende. La piattaforma si propone di migliorare creatività e produttività, offrendo funzionalità avanzate quali la generazione di immagini, la trasformazione di testi in podcast, la sintesi di contenuti complessi e l’integrazione con altre app Google come Ricerca, YouTube, Maps e Gmail.
L’app Gemini è accessibile in oltre 150 paesi e territori, con piani di abbonamento che sbloccano funzionalità aggiuntive come versioni potenziate del modello (ad esempio, Gemini 2.5 Pro), generazione video e strumenti di ricerca approfondita. Nonostante ciò, alcune recensioni degli utenti evidenziano ancora limiti nella generazione di immagini e nella gestione di testi complessi, oltre a problemi di connettività e compatibilità che influenzano l’esperienza d’uso.
Google ha annunciato che Gemini sostituirà gradualmente l’Assistente Google come assistente principale sugli smartphone, anche se alcune funzionalità vocali restano ancora in fase di sviluppo. L’azienda sottolinea l’impegno nella protezione dei dati personali, con crittografia durante il trasferimento e possibilità per l’utente di richiedere l’eliminazione delle informazioni raccolte.
