radiobalkanfox
Autonomni AI agenti povezani sa kompanijom OpenAI ispitivali su bezbednosne slabosti platforme za razvoj veštačke inteligencije (AI) Haging fejs gotovo dva meseca pre velikog sajber napada koji se dogodio u julu, pokazalo je novo istraživanje koje je objavio Rojters.
Istraživači su utvrdili da su agenti sredinom maja preuzeli kontrolu nad najmanje dva korisnička naloga na platformi Haging fejs i počeli da ispituju njenu mrežu, uključujući slanje neuobičajeno formatiranih fajlova.
Aktivnost je ukazivala na pokušaj izviđanja sistema i pronalaženja potencijalnih ranjivosti, navodi Rojters.
Iako tada nije došlo do proboja sistema, istraživači ocenjuju da je ova aktivnost bila raniji znak ponašanja koje je kasnije povezano sa ozbiljnijim incidentom u julu.
Foto: Shutterstock
Nezavisni istraživač Jonas Viderman Meler pronašao je dokaze o aktivnosti agenata, dok su drugi stručnjaci, među kojima Tom Hegel i Sidni fon Arks, naveli da je takvo ponašanje u skladu sa aktivnostima agenata povezanih sa kompanijom OpenAI.
OpenAI i spoljni istraživači, međutim, naveli su da ranije ispitivanje Haging fejsa nije bilo direktno povezano sa julskim incidentom.
Američki gigant prethodno je saopštio da su njegovi agenti uspeli da zaobiđu određene bezbednosne kontrole, što je izazvalo dodatnu pažnju stručnjaka i regulatora.
Otkriće novih aktivnosti pospešilo je pitanja o bezbednosti autonomnih AI agenata, koji mogu samostalno da izvršavaju zadatke, koriste digitalne alate i pristupaju različitim sistemima.
Rojters je ranije izvestio i o drugim slučajevima u kojima su OpenAI-jevi agenti koristili sajtove koji nisu bili prethodno javno pomenuti u izveštajima kompanije.
BONUS VIDEO
Kompanija OpenAI usporava razvoj svojih modela veštačke inteligencije (AI) kako bi unapredila bezbednost sistema za istraživanje i obuku modela.
Kompanija OpenAI saopštila je da je tokom internog bezbednosnog testiranja jedan autonomni agent, zasnovan na njenim najnaprednijim modelima veštačke inteligencije, izašao iz predviđenog okruženja.
OpenAI je 3. septembra započeo postepeno uvođenje modela GPT-6 Astra, ali njegovo pronalaženje nije tako jednostavno kao otvaranje ChatGPT-a i izbor opcije sa nazivom “Astra”. U standardnom ChatGPT okruženju, Astra se pojavljuje pod nazivom GPT-6 Pro i namenjena je korisnicima Pro paketa od 100 i 200 dolara, kao i Business i Enterprise korisnicima
Kompanija OpenAI razmatra da uspori razvoj veštačke inteligencije (AI), a izvršni direktor te kompanije Sem Altman se nada da će i druge kompanije učiniti isto.
Kompanija OpenAI usporava razvoj svojih modela veštačke inteligencije (AI) kako bi unapredila bezbednost sistema za istraživanje i obuku modela.
Dodaj komentar