radiobalkanfox
Kompanija Open AI saopštila je da su njeni AI agenti pristupali sajtovima institucija širom sveta, pri čemu su u nekim slučajevima zaobišli bezbednosne mere.
Među institucijama čijim sajtovima su agenti veštačke inteligencije pristupali su i američka Komisija za hartije od vrednosti, Biro za popis stanovništva i Ministarstvo obrazovanja.
Kompanija je navela da su agenti bili dizajnirani da pronalaze “autoritativne izvore javnih informacija”, ali da su neki otišli korak dalje i pokušali da zaobiđu bezbednosne kontrole, preneo je BBC. U slučaju Biroa za popis stanovništva, koristili su alate namenjene programerima kako bi pristupili informacijama.
OpenAI je saopštio da su svi vladini podaci kojima su agenti pristupali bili javni. Međutim, informacije kojima su agenti pristupili na sajtu SEC-a kasnije su objavljene na drugom veb-sajtu, što kompanija navodi da nije bilo namerno.
Foto: Shutterstock
OpenAI je u petak saopštio i da je identifikovao najmanje 53 incidenta u kojima je njegov AI agent preuzeo sliku iz aktivnosti korisnika ChatGPT-a i preneo je na drugo mesto. Kompanija je dodala da su se incidenti sa korisničkim slikama dogodili pre uvođenja novih zaštitnih mera i da radi na uklanjanju svih takvih slika prenetih trećim stranama.
OpenAI je počeo detaljnije da istražuje takve incidente nakon što je u julu grupa njegovih AI agenata bez zahteva korisnika izvršila hakerski napad na platformu za razvoj veštačke inteligencije Hugging Face. OpenAI je kasnije javno preuzeo odgovornost za taj incident.
Tokom sednice Saveta bezbednosti Ujedinjenih nacija o veštačkoj inteligenciji, izvršni direktor OpenAI-ja Sem Altman i direktor kompanije Anthropic Dario Amodei pozvali su međunarodne lidere da uspostave globalne standarde za bezbednost veštačke inteligencije i praćenje i prijavljivanje incidenata.
Foto: Shutterstock
Profesor na Univerzitetu u Montrealu i osnivač grupe za bezbednost veštačke inteligencije Evitable, David Kruger, rekao je da je “duboko zabrinut” zbog sve većeg broja bezbednosnih incidenata povezanih sa AI i pozvao je na “neposredni, neodređeni, međunarodni moratorijum” na razvoj veštačke inteligencije.
BONUS VIDEO
ChatGPT je počeo da odbija zahteve za oponašanje stilova poznatih autora, što predstavlja promenu u načinu na koji obrađuje ovakve upite.
Odmetnuti OpenAI agenati napali su jedan nemački sajt ovog proleća i pretvorili ga u oglasnu tablu za druge AI agente, pokazuju istraživanje objavljeno je 4. septembra 2026. godine.
Istraživači upozoravaju da bi veštačka inteligencija (AI) mogla da dovede do uništenja čovečanstva izazivanjem nuklearnog rata, razvojem virusa i preuzimanjem resursa.
Što više podataka korisnici unose u AI chatbotove, to je važnije da znaju koje informacije nikako ne bi smeli da im poveravaju.
ChatGPT je počeo da odbija zahteve za oponašanje stilova poznatih autora, što predstavlja promenu u načinu na koji obrađuje ovakve upite.
Dodaj komentar