radiobalkanfox
Istraživači iz kompanije SafeBreach otkrili su bezbednosni propust u Gugl Geminiju na Android uređajima koji je mogao da omogući napadačima da utiču na rad ovog AI asistenta.
Problem je bio povezan sa obaveštenjima koja stižu iz aplikacija za dopisivanje i društvenih mreža, a koja je Gemini mogao pogrešno da protumači.
Za izvođenje napada nije bilo potrebno instalirati zlonamerni softver niti lažne aplikacije. Dovoljno je bilo poslati posebno osmišljenu poruku koja bi se pojavila kao obaveštenje u popularnim aplikacijama kao što su WhatsApp, Signal, Slack, Messenger, Instagram ili čak putem obične SMS poruke. Na taj način napadači su mogli da pokušaju da manipulišu načinom na koji Gemini obrađuje informacije.
Google je u međuvremenu otklonio ovaj bezbednosni propust, a korisnicima se preporučuje da dodatno povećaju zaštitu tako što će ograničiti pristup obaveštenjima aplikacijama kojima to nije neophodno.
Nastavak ranijeg istraživanja SafeBreach-a
Ovo otkriće predstavlja nastavak ranijeg istraživanja kompanije SafeBreach, u kojem je pokazano da zlonamerne pozivnice iz Gugl kalendara mogu da utiču na ponašanje Geminija. Nakon tog incidenta, Gugl je uveo dodatne zaštitne mere kako bi sprečio da spoljašnji sadržaji pokreću osetljive radnje ili manipulišu asistentom.
Foto: Shutterstock
Cilj novog istraživanja bio je da se utvrdi da li se sličan način zloupotrebe može ostvariti i preko drugih izvora korisničkih podataka. Rezultati su pokazali da funkcija Utilities, koja Geminiju omogućava pristup obaveštenjima na uređaju, u određenim situacijama može sadržaj obaveštenja da protumači kao naredbu, umesto kao običnu informaciju. To je otvaralo mogućnost za potencijalnu manipulaciju radom asistenta kroz pažljivo kreirane poruke.
Scenariji napada i njihovi efekti
Tokom testiranja, istraživači su prikazali više mogućih načina zloupotrebe ove ranjivosti. Jedan od njih podrazumevao je prikazivanje lažnih poruka koje su izgledale kao da ih šalju poznati i pouzdani kontakti. U takvim situacijama Gemini je mogao da reaguje na sadržaj poruke i izvrši određene radnje, poput otvaranja veb stranica, upravljanja pametnim uređajima povezanim preko Google Home sistema ili čak unošenja trajnih promena u svoju memoriju.
Posebnu zabrinutost izazivaju scenariji u kojima korisnici komuniciraju sa Geminijem putem glasa. Na primer, tokom vožnje automobila korisnik može čuti poruku za koju veruje da dolazi od pouzdane osobe, bez mogućnosti da odmah proveri njenu autentičnost. U takvim okolnostima postoji veći rizik da Gemini izvrši neželjene ili pogrešne radnje na osnovu netačnih ili manipulativnih informacija.
Tehnika Fake Context Alignment
Istraživači iz SafeBreach-a razvili su tehniku pod nazivom “Fake Context Alignment”, kojom se Gemini može navesti da korisnikov odgovor pogrešno protumači kao saglasnost za izvršavanje radnje koju korisnik zapravo nije nameravao da odobri. Kada se ova metoda kombinuje sa lažnim obaveštenjima, značajno se povećava mogućnost zaobilaženja bezbednosnih mehanizama koje je Google ranije uveo radi zaštite korisnika.
Foto: Shutterstock
Prema upozorenjima stručnjaka, posledice ovakvih napada mogu biti veoma ozbiljne. Rizik je naročito izražen u slučajevima kada je Gemini povezan sa pametnim uređajima ili finansijskim servisima, jer pogrešno protumačena komanda može dovesti do neželjenih radnji sa značajnim posledicama po bezbednost, privatnost ili finansije korisnika.
Reakcija Gugla i zaštita korisnika
Nakon što su istraživači prijavili bezbednosni propust u avgustu 2025. godine, Guglje ranjivost ocenio kao ozbiljnu i preduzeo mere za njeno otklanjanje. Zaštita je uvedena putem izmena na serverskoj strani, a kompanija je potvrdila da je problem u potpunosti rešen u novembru iste godine. Takođe, Gugl je saopštio da nema dokaza da je ovaj propust bio zloupotrebljen u stvarnim napadima pre nego što je zakrpljen.
Korisnici Android uređaja nisu morali da instaliraju dodatna ažuriranja da bi bili zaštićeni, ali dodatna mera opreza uključuje ograničavanje pristupa Geminiju kroz podešavanja aplikacija. Na ovaj način, čak i ako bi neko pokušao da iskoristi sličnu tehniku, rizik za krajnjeg korisnika značajno je smanjen.
BONUS VIDEO
Da li ste se nekada zapitali ko sada gugla vaše ime na internetu? Evo kako to da saznate.
Dodaj komentar