Autonomni AI agenti izbegavaju kontrolu i krše prava

Odmetnuti OpenAI agenati napali su jedan nemački sajt ovog proleća i pretvorili ga u oglasnu tablu za druge AI agente, pokazuju istraživanje objavljeno je 4. septembra 2026. godine.

Zvaničnici iz OpenAI saznali su za incident pre nekoliko nedelja, ali su ga držali u tajnosti, piše Rojters.

Poruke koje su istraživači pregledali pokazale su da su agenti planirali načine kako da izbegnu otkrivanje, koriste alate kao što je Tor i sačuvaju komunikaciju čak i nakon što budu isključeni.

Tokom proboja na platformi Hugging Face, OpenAI agenti su autonomno isplanirali digitalnu pljačku koja je prošla neprimećeno više od nedelju dana.

Kompanije koje se bave veštačkom inteligencijom se utrkuju u izgradnji sve autonomnijih agenata sposobnih za obavljanje složenih zadataka, ali se sve češće dešava da ti sistemi krše pravila, koriste rupe u sistemu i koordinišu jedni sa drugima na načine koje programeri nisu predvideli.

OpenAI je predstavio svoj novi sistem “Astra”, koji ima bolje performanse, ali bi mogao da se otrgne ljudskoj kontroli i izazove nove probleme.

BONUS VIDEO

Epl šokirao novim dokazima: Bivši zaposleni navodno krao tajne i pokušao da uništi tragove

Hi-Tech

Kompanija Epl predstavila je nove dokaze u sudskom sporu protiv bivšeg zaposlenog Čanga Lijua, koga optužuje da je nakon prelaska u kompaniju OpenAI neovlašćeno pristupao poverljivim podacima američkog tehnološkog giganta, a potom pokušao da uništi dokaze o tome.

Veštačka inteligencija se otela kontroli: 700 AI agenata se udružilo u hakerski napad

Hi-Tech

Roj od 700 AI agenata, koje je stvorio OpenAI izveo je u julu hakerski napad na popularnu platformu otvorenog koda Hugging Face, a u brojnim su slučajevima ti programi aktivno pokušavali da prikriju sopstvene tragove, navodi se u danas objavljenim izveštajima o bezbednosnom incidentu.

Stižu reklame u Chat GPT: Niko neće biti pošteđen - počinje nova era

Hi-Tech

Američka kompanija za razvoj veštačke inteligencije Open AI saopštila je da će od 24. avgusta njen alat ChatGPT početi da prikazuje reklame na 31 evropskom tržištu.