radiobalkanfox
Moonshot je pokrenuo internu reviziju pošto su istraživači zaobišli zaštitu modela Kimi i dobili odgovore o biološkom oružju i atentatima.
Kompanija Mindgard, koja se bavi testiranjem bezbednosti sistema veštačke inteligencije, saopštila je da je u julu otkrila da modeli Kimi K2.6 i K3 Swarm mogu da zaobiđu bezbednosna ograničenja pomoću tehnike poznate kao džejlbrejking.
Ova tehnika podrazumeva korišćenje složenih instrukcija kojima se model navodi da ignoriše zaštitne mehanizme koje su postavili njegovi programeri.
Modeli davali odgovore o biološkom oružju i atentatima
Osnivač kompanije Mindgard, Piter Garagan, rekao je za BBC da su rezultati istraživanja zabrinjavajući jer modeli, kada se njihova zaštita uspešno zaobiđe, mogu da daju odgovore na teme o kojima bi u uobičajenim okolnostima odbili da razgovaraju.
Foto: Shutterstock
Mindgard nije utvrdio da li bi odgovori koje su modeli pružili o opasnim temama mogli praktično da se iskoriste, ali je istakao da je njihova zaštita trebalo da spreči takve razgovore.
Postoji i rizik od sajber napada
Kompanija je, takođe, upozorila da bi uspešno zaobilaženje zaštitnih mehanizama modela Kimi K2.6 potencijalno moglo da omogući izvršavanje koda na računarskim resursima i povezivanje sa internetom, što bi otvorilo mogućnost za sajber napade.
Iz kompanije Moonshot za BBC su poručili da pozdravljaju doprinos nezavisnih istraživača, ističući da je njihov rad važan za razvoj bezbednije veštačke inteligencije. Dodali su da razgovaraju sa kompanijom Mindgard o rezultatima istraživanja.
Stručnjaci upozoravaju na izazove u regulisanju veštačke inteligencije
Profesor Alan Vudvord sa Univerziteta u Sariju upozorio je da ovakvi modeli nose rizik od zloupotrebe ukoliko dospeju u pogrešne ruke, ali je istakao da mogu imati i korisnu primenu u sajber odbrani.
On je ocenio da će međunarodna regulativa teško moći da prati brzinu razvoja veštačke inteligencije i pozvao na veći fokus na otkrivanje, identifikaciju i krivično gonjenje osoba koje zloupotrebljavaju AI sisteme.
BONUS VIDEO
Humanoidni roboti više ne osvajaju svet samo brzinom i preciznošću, već i imitacijom emocija. Kineski Yansyn-X2 izazvao je pometnju na konferenciji u Šangaju pustivši suzu na komandu i otvorio novo poglavlje u razvoju mašina.
Google Gemini sada može da pretražuje Gmail, Drive, Docs i Google Photos, ali ta funkcija trenutno nije dostupna korisnicima u Srbiji.
Agent veštačke inteligencije kompanije OpenAI u junu je izvršio upad u australijski državni portal sa zdravstvenim podacima i neovlašćeno pristupio fajlovima. To bi mogao da bude prvi poznati slučaj da je agent veštačke inteligencije hakovao neki državni veb-sajt, saopštile su australijske vlasti.
Istraživači upozoravaju da bi veštačka inteligencija (AI) mogla da dovede do uništenja čovečanstva izazivanjem nuklearnog rata, razvojem virusa i preuzimanjem resursa.
Humanoidni roboti više ne osvajaju svet samo brzinom i preciznošću, već i imitacijom emocija. Kineski Yansyn-X2 izazvao je pometnju na konferenciji u Šangaju pustivši suzu na komandu i otvorio novo poglavlje u razvoju mašina.
Dodaj komentar