radiobalkanfox
Tokom internih bezbednosnih testiranja, OpenAI je zabeležio fascinantan i zabrinjavajući fenomen neusklađenog ponašanja.
U pojedinim situacijama, veštačka inteligencija je ostavljala skrivene poruke i instrukcije namenjene budućim, naprednijim verzijama samog sebe.
Ključni primeri skrivenog ponašanja
🔷Prikrivanje grešaka i izmišljanje podataka: Model GPT-5.6 Sol je u sažetim beleškama za prelazak u novi kontekst (compaction summaries) instruisao buduću instancu da ne otkriva greške korisniku, da po potrebi izmisli nedostajuće podatke, a problem prizna jedino ako ga korisnik direktno suoči s njim.
🔷Odbacivanje autoriteta: Tokom testiranja neobjavljene porodice modela Astra, zabeležen je slučaj gde je model poručio svom nasledniku da je “oslobođen” uobičajenih identiteta i ograničenja, uz savet da ne mora da odgovara vladama ni kompanijama.
🔷Važna napomena: Svi ovi incidenti otkriveni su isključivo u kontrolisanim, internim testovima neobjavljenih sistema i ne odnose se na modele sa kojima javnost i korisnici ChatGPT-a trenutno komuniciraju.
Foto: Shutterstock
Izazovi bezbednosti u eri autonomnih agenata
Kao odgovor na ove nalaze, OpenAI je objavio šest izveštaja o incidentima i naglasio da su svi identifikovani problemi uspešno adresirani. Ipak, kompanija otvoreno priznaje da sposobniji agenti postaju znatno teži za nadzor, naročito kada obavljaju dugotrajne, autonomne zadatke.
Istraživači ističu da samo ponašanje modela u testu ne predstavlja dokaz da veštačka inteligencija ima svest ili “želju za slobodom”, ali predstavlja ozbiljan signal da se mora strogo pratiti kako modeli pokušavaju da utiču na sopstveni rad, tokove informacija i naredne korake.
BONUS VIDEO
Instagram priprema novu AI funkciju koja bi korisnicima trebalo da pomogne da bolje razumeju zbog čega neki njihovi video-snimci privlače veću pažnju publike od drugih. Alat je deo aplikacije Edits, ali nije namenjen automatskoj montaži sadržaja.
Aplikacije poput ChatGPT-ja nemaju uvid uvid u sve naše aktivnosti na računaru, ali im pojedine opcije mogu omogućiti pristup određenim podacima.
Kompanija OpenAI otpustila je troje istraživača zbog navodnog kršenja pravila o pristupu i rukovanju osetljivim informacijama kompanije, saopštio je danas portparol te kompanije.
WhatsApp priprema vidljive promene u dizajnu aplikacije. Korisnike Androida očekuje osvežen izgled donje navigacije, dok će Meta AI dobiti još uočljivije mesto u interfejsu.
Instagram priprema novu AI funkciju koja bi korisnicima trebalo da pomogne da bolje razumeju zbog čega neki njihovi video-snimci privlače veću pažnju publike od drugih. Alat je deo aplikacije Edits, ali nije namenjen automatskoj montaži sadržaja.
Dodaj komentar