radiobalkanfox
Veštačka inteligencija koja pamti korisnike donosi više pogodnosti, ali otvara i potpuno novu vrstu rizika. Umesto da pokušaju da probiju zaštitu sistema, hakeri sada traže način da promene ono što AI smatra istinom.
Veštačka inteligencija postaje sve ličnija jer moderni asistenti mogu da pamte navike korisnika, prethodne razgovore i važne informacije.
Međutim, upravo ta funkcija dugoročnog pamćenja mogla bi da postane nova slaba tačka koju napadači pokušavaju da iskoriste.
Istraživači sa Univerziteta u Novom Meksiku otkrili su napad nazvan “GhostWriter”, koji omogućava ubacivanje lažnih informacija u memoriju AI agenata. Umesto klasične krađe podataka, ovaj napad menja ono što sistem kasnije smatra pouzdanim informacijama.
Kako funkcioniše “trovanje” AI memorije?
Za razliku od napada koji utiču samo na jedan razgovor, GhostWriter ostavlja trag u dugoročnoj memoriji asistenta.
Zlonamerne informacije mogu se ubaciti putem skrivenih instrukcija ili nepouzdanog sadržaja, a zatim se aktivirati tek kasnije kada AI odgovara na neki novi zahtev.
Korisnik pritom možda uopšte ne zna da asistent koristi izmenjene podatke.
Foto: Shutterstock
Posledice mogu biti ozbiljne
Ako napadač uspe da promeni memoriju AI sistema, posledice mogu biti različite, od pogrešnih preporuka i netačnih podataka do potencijalno opasnih radnji.
Kompromitovani asistent mogao bi da zapamti pogrešne kontakte, izmišljene rokove ili lažne informacije, a u određenim scenarijima čak i da izvrši neželjene radnje oslanjajući se na tako izmenjena “sećanja”.
Testovi pokazali visoku uspešnost napada
Tokom eksperimenata sa naprednim AI agentima, istraživači su zabeležili veoma visoku uspešnost ubacivanja lažnih memorija.
Zlonamerne informacije kasnije su se aktivirale u značajnom broju slučajeva, što pokazuje da postojeći sistemi zaštite još nisu dovoljno otporni.
Zbog toga naučnici predlažu nove metode zaštite, među kojima je i okvir AM-Sentry, čiji je cilj stroža kontrola podataka koje AI sistemi čuvaju i koriste.
Kako AI asistenti sve više preuzimaju ulogu ličnih pomoćnika, zaštita njihove memorije postaje jedno od ključnih pitanja buduće sajber-bezbednosti.
BONUS VIDEO
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Kad internet počne da “štuca”, većina ljudi odmah pomisli da je problem u rutеru ili da im treba skuplji paket. Ipak, stručnjaci ističu da se pravi uzrok često krije u jednoj opciji koja već postoji u skoro svakom modernom ruteru, ali se retko koristi.
Napredni AI alati i digitalna infrastruktura velikih tehnoloških kompanija postali su ključni deo svetske mreže internet prevara.
Američka tehnološka kompanija Gugl predstavila je novo ažuriranje svoje AI video platforme Vids, koje korisnicima omogućava da kreiraju personalizovane digitalne avatare.
Gugl je objavio nove Uslove korišćenja za Gugl Plrej, koji će važiti od 29. jula 2026. godine o po prvi put jasno naveo da sistemske Android usluge mogu koristiti mobilne podatke u pozadini, čak i kada korisnik ne koristi uređaj ili kada je ekran zaključan.
Dodaj komentar