Un specialist a descoperit o vulnerabilitate în Google Gemini care permite generarea de alerte false pentru a induce în eroare utilizatorii și a-i direcționa către atacuri de phishing. Metoda nu folosește linkuri directe.
Un nou tip de vulnerabilitate afectează serviciul Google Gemini integrat în platforma Workspace. Atacatorii pot exploata sistemul de rezumate ale e-mailurilor pentru a trimite mesaje înșelătoare fără link-uri sau fișiere atașate.
Cum pot fi păcăliți utilizatorii prin rezumatele automate generate de Gemini
Marco Figueroa, de la 0DIN al Mozilla, a identificat această problemă.
Această tehnică se bazează pe injectarea unor comenzi ascunse în e-mailuri, scrise într-un font invizibil (alb pe fundal alb), astfel încât să nu fie vizibile în Gmail. Google Gemini le interpretează și le urmărește în generarea rezumatului.
În exemplul prezentat de Figueroa, AI-ul generează o alertă falsă privind compromiterea parolelor de Gmail, recomandând contactul cu un serviciu de suport fals, care, de fapt, redirecționează victima către un atacator.
Recomandări de securitate și reacția Google
Lipsa atașamentelor sau link-urilor face mesajele greu de detectat de filtrele tradiționale de spam sau phishing. Această problemă ridică îngrijorări în comunitatea de securitate cibernetică.
Pentru a contracara aceste atacuri, Figueroa propune:
- eliminarea conținutului ascuns prin stilizare HTML;
- implementarea unui filtru suplimentar care verifică cuvinte precum „urgent”, adrese URL sau numere de telefon în rezumate, marcandu-le pentru analiză manuală.
Utilizatorii trebuie să fie atenți și să verifice informațiile din alertele de securitate generate de Gemini din surse oficiale. Confirmarea oficială este esențială.
Google a declarat că îmbunătățește continuu protecțiile prin exerciții de securitate, pentru a identifica și remedia eventualele vulnerabilități. Măsuri suplimentare de protecție sunt în curs de dezvoltare sau vor fi implementate.
Google menționează că, până în prezent, nu sunt raportate cazuri de atacuri reale prin această metodă, însă monitorizează activ astfel de comportamente.
