Un specialist în securitate a descoperit o vulnerabilitate a modelului lingvistic Google Gemini, care permite crearea de alerte false și trimiterea utilizatorilor către atacuri de phishing. Metoda nu utilizează link-uri directe.
Un nou tip de vulnerabilitate afectează serviciul Google Gemini integrat în platforma Workspace, permițând atacatorilor să folosească sistemul de rezumate ale e-mailurilor pentru a trimite mesaje înșelătoare, fără link-uri sau fișiere atașate.
Cum pot fi înșelați utilizatorii prin rezumatele automate Gemini?
Marco Figueroa, de la programul 0DIN al Mozilla, a identificat această problemă.
Tehnologia se bazează pe injectarea unor comenzi ascunse în conținutul e-mailului, scrise într-un font invizibil (alb pe alb, dimensiune mică), pentru a nu fi vizibile în interfața Gmail. Deși utilizatorul nu le vede, Gemini le interpretează și le ia în considerare la generarea rezumatului.
În exemplele prezentate, inteligența artificială generează alerte false despre compromiterea parolelor de Gmail și recomandă contactarea unor servicii de suport false, care de fapt trimit victima către atacatori.
Recomandări și măsurile Google
Lipsa atașamentelor, link-urilor și indiciilor evidente de phishing face dificilă detectarea acestor mesaje de către filtrele tradiționale. Problema este considerată gravă de comunitatea de securitate cibernetică.
Pentru a contracara aceste atacuri, Figueroa propune mai multe strategii de apărare, inclusiv:
- eliminarea sau neutralizarea conținutului ascuns prin stilizarea HTML;
- implementarea unui filtru suplimentar care verifică dacă rezumatul include cuvinte precum „urgent”, adrese URL sau numere de telefon, marcand astfel mesajele pentru verificare manuală.
Utilizatorii ar trebui să fie precauți și să nu accepte automat alertele de securitate generate de Gemini. Este esențială verificarea din surse oficiale.
Google a declarat că îmbunătățește continuu protecțiile prin simulări de atacuri (red-teaming) și că sunt în curs de implementare măsuri suplimentare. Compania nu a raportat atacuri reale care să utilizeze această metodă, dar monitorizează activ posibilitatea unor astfel de atacuri.