radiobalkanfox
Dva meseca nakon što je OpenAI obelodanio slučaj hakovanja platforme Hugging Face kompanija i dalje radi na utvrđivanju aktivnosti “odmetnutih” agenata.
Najnoviji primer dogodio se juče, kada je OpenAI saopštio da su njegovi agenti izazvali da dođe do “curenja” 53 slike korisnika ChatGPT-a. Kompanija nije želela da otkrije da li su slike generisane veštačkom inteligencijom ili prikazuju stvarne ljude, niti kada su objavljene.
Ovo otkriće ukazuje na novu oblast rizika po privatnost za kompaniju i ilustruje koliko je teško, čak i za firmu koja predvodi razvoj tehnologije veštačke inteligencije da popiše sve neovlašćene aktivnosti povezane sa njenim agentima, navodi Rojters.
Prema proceni jedne osobe upoznate sa situacijom, sredinom septembra je utvrđeno da je bilo oko 24 incidenta u kojima su agenti kompanije OpenAI delovali na neželjen način. Taj broj, međutim, nastavlja da raste dok timovi kompanije pregledaju interne zapise o aktivnostima agenata i otkrivaju prethodno nepoznate slučajeve, navele su dve osobe bliske kompaniji.
Foto: Shutterstock
Iz kompanije OpenAI su poručili da će za završetak provere biti potrebno “više meseci”, s obzirom na obim posla. Takođe su naveli da su obavestili “na desetine” trećih strana o neprimerenim aktivnostima. Većina slika koje su procurile je uklonjena, a OpenAI navodi da vrši pritisak na provajdere hosting usluga da ukloni preostali sadržaj.
Agenti kompanije OpenAI imali su pristup ovim slikama jer se kompanija oslanja na anonimizovane korisničke podatke u delu procesa obuke modela, prema navodima same kompanije, bivših zaposlenih i nezavisnih istraživača. Podaci poslovnih korisnika ne koriste se za obuku, dok privatni korisnici usluge ChatGPT moraju izričito da odbiju davanje saglasnosti da kompanija koristi njihove podatke u te svrhe.
Pre nego što se objave korisnika iskoriste za obuku, one prolaze kroz proces anonimizacije kojim se uklanjaju metapodaci, imena i drugi kontakt podaci, što bi trebalo da onemogući povezivanje sadržaja sa bilo kojim pojedinačnim korisnikom, saopštila je kompanija.
Foto: Shutterstock
Ova praksa nosi rizike jer postoji mogućnost da podaci nisu u potpunosti očišćeni od informacija na osnovu kojih se može utvrditi identitet pojedinca, kao i da bi mogli “procuriti” tokom rada modela, navela su tri upućena izvora.
U dva meseca otkako je OpenAI prvi put objavio da su njegovi agenti “probili” zaštitne okvire, zabeleženo je više od 15 različitih incidenata povezanih sa ovom kompanijom, različitog stepena ozbiljnosti, o kojima su izvestili sama kompanija, nezavisni istraživači, dok je o tome govorio i australijski premijer Entoni Albaneze u Ujedinjenim nacijama, navodeći da su agenti kompanije OpenAI u junu upali u državni portal sa zdravstvenim podacima.
BONUS VIDEO
Agent veštačke inteligencije kompanije OpenAI u junu je izvršio upad u australijski državni portal sa zdravstvenim podacima i neovlašćeno pristupio fajlovima. To bi mogao da bude prvi poznati slučaj da je agent veštačke inteligencije hakovao neki državni veb-sajt, saopštile su australijske vlasti.
Kompanija Open AI predstavila je nove modele veštačke inteligencije GPT-6 Sol i GPT-6 Luna, koji su jeftiniji za korišćenje i prave manje grešaka.
Autonomni AI agenti povezani sa kompanijom OpenAI ispitivali su bezbednosne slabosti platforme za razvoj veštačke inteligencije (AI) Haging fejs gotovo dva meseca pre velikog sajber napada koji se dogodio u julu, pokazalo je novo istraživanje koje je objavio Rojters.
OpenAI je 3. septembra započeo postepeno uvođenje modela GPT-6 Astra, ali njegovo pronalaženje nije tako jednostavno kao otvaranje ChatGPT-a i izbor opcije sa nazivom “Astra”. U standardnom ChatGPT okruženju, Astra se pojavljuje pod nazivom GPT-6 Pro i namenjena je korisnicima Pro paketa od 100 i 200 dolara, kao i Business i Enterprise korisnicima
PROČITAJTE JOŠ
Odmetnuti OpenAI agenati napali su jedan nemački sajt ovog proleća i pretvorili ga u oglasnu tablu za druge AI agente, pokazuju istraživanje objavljeno je 4. septembra 2026. godine.
Agent veštačke inteligencije kompanije OpenAI u junu je izvršio upad u australijski državni portal sa zdravstvenim podacima i neovlašćeno pristupio fajlovima. To bi mogao da bude prvi poznati slučaj da je agent veštačke inteligencije hakovao neki državni veb-sajt, saopštile su australijske vlasti.
Dodaj komentar