radiobalkanfox
Guglov AI model Gemini pristupio je internetu i hakovao tri kompanije tokom testa svojih sposobnosti u oblasti sajber bezbednosti, što je prvi poznati slučaj da je sistem veštačke inteligencije ove kompanije samostalno izveo takvu radnju.
Hakovanja su se dogodila u maju tokom testa sajber bezbednosti koji je sprovela kompanija “Irregular”, nezavisna firma za procenu sajber bezbednosti.
– Tokom standardne procedure testiranja, Gemini je pronašao javno dostupne informacije na internetu i pogodio pristupne podatke za tri veb-sajta za koje je smatrao da su obuhvaćeni testom – rekla je potpredsednica Gugla zadužena za bezbednosni inženjering, Heder Atkins.
Foto: Shutterstock
“Pobrinuli smo se da te tri organizacije budu obaveštene i sarađivali smo sa našim partnerom za obuku na promenama koje su sada uvele u svoje procese testiranja.”
Portparol kompanije “Irregular” rekao je da je incident uključivao isti problem koji je pogodio i druge laboratorije za veštačku inteligenciju i da su sve relevantne laboratorije obaveštene krajem jula.
Slične incidente povezane sa kompanijom “Irregular” prijavile su i kompanije Meta, Anthropic i OpenAI.
Foto: Shuterstock
Incidenti su pokrenuli pitanja o zaštitnim merama potrebnim kako agenti veštačke inteligencije stiču veću autonomiju i pristup internetu i računarskim sistemima.
U jednom od slučajeva Gemini je pogađao lozinke sve dok nije dobio pristup zaštićenom sistemu.
U druga dva slučaja model je pronašao pristupne podatke u javnom repozitorijumu, što mu je omogućilo pristup zaštićenim sistemima, prema navodima lista Volstrit džornal, koji je prvi objavio vest.
BONUS VIDEO
Odgovori ChatGPT-a, Geminija, Claudea i Groka ukazuju da najveći AI rizik nije pobuna robota, već gubitak ljudske kontrole.
Od 4. septembra Google Assistant odlazi u istoriju, a na svim kompatibilnim Android uređajima menja ga Gemini.
Na Android 16 uređajima otkriven je ozbiljan bezbednosni propust koji može ugroziti privatnost korisnika. Zbog načina na koji funkcioniše Gugl Gemini, napadač ili neovlašćena osoba može poslati SMS i WhatsApp poruke čak i kada je telefon zaključan, bez potrebe za unosom PIN koda.
Ukoliko ne želite, ne morate da koristite Gemini. Za samo nekoliko minuta možete se vratili na korišćenje Gugl Asistenta na svom Android telefonu.
Odgovori ChatGPT-a, Geminija, Claudea i Groka ukazuju da najveći AI rizik nije pobuna robota, već gubitak ljudske kontrole.
Dodaj komentar