EU uvodi zabranu AI alata za generisanje eksplicitnih sadržaja

Evropska unija razmatra uvođenje strožih pravila za upotrebu veštačke inteligencije, s posebnim fokusom na zabranu alata koji mogu da stvaraju eksplicitne sadržaje bez nečijeg pristanka.

Ova inicijativa dolazi nakon kontroverzi povezanih sa platformama poput X i njihovim AI tehnologijama, uključujući Grok.

Prema predlogu, kompanije kao što su Meta i TikTok morale bi da uvedu znatno strože kontrole nad svojim AI funkcijama. Cilj ovih mera je da se spreči zloupotreba tehnologije, posebno u slučajevima kada se generišu slike ili video-snimci koji zadiru u privatnost i ugrožavaju dostojanstvo ljudi.

U suštini, EU želi da postavi jasne granice – razvoj veštačke inteligencije je dobrodošao, ali ne po cenu osnovnih ljudskih prava.

Grok u centru skandala

Na početku godine, alat Grok našao se u središtu velikog skandala kada su korisnici otkrili da može da manipuliše fotografijama na način koji omogućava uklanjanje odeće sa osoba na slici. Ova mogućnost ubrzo je dovela do masovne proizvodnje lažnih, ali vrlo uverljivih eksplicitnih prikaza, što je izazvalo snažno negodovanje javnosti.

Foto: EPA/profimedia

Poseban problem predstavljao je nagli porast tzv. Deepfake sadržaja, koji se velikom brzinom širio, naročito unutar same platforme X. Iako su naknadno uvedene određene mere zaštite, pokazalo se da one nisu bile dovoljno efikasne – korisnici su pronalazili načine da ih zaobiđu i nastave sa kreiranjem spornih materijala.

Između slobode govora i regulatornog pritiska

U središtu rasprave našao se i vlasnik platforme X, Elon Musk, koji je u početku odbijao zahteve za uklanjanje spornih funkcija, tvrdeći da su kritike politički motivisane. Njegov snažan fokus na slobodu govora dodatno je produbio kontroverzu i otežao pronalaženje brzog rešenja.

Ipak, pod sve većim pritiskom javnosti i regulatornih tela, kompanija je na kraju morala da popusti i uvede određena ograničenja. Uprkos tim koracima, ostaje otvoreno pitanje da li je moguće dugoročno održati ravnotežu između slobode izražavanja i zaštite korisnika od zloupotreba.

Zbog kontroverzi vezanih za Grok, platforma X se suočava sa sve većim brojem istraga i pravnih postupaka. Među njima su i tužbe koje su pokrenule žrtve zloupotrebe, uključujući grupu tinejdžera iz United States, što dodatno pojačava pritisak na kompaniju.

Istovremeno, evropski regulatori razmatraju uvođenje novih, strožih mera koje bi ograničile upotrebu ovakvih AI alata. Ukoliko ove regulative stupe na snagu, X (formerly Twitter) bi mogla biti primorana da značajno promeni način na koji razvija i plasira svoje AI funkcionalnosti, posebno kada je reč o zaštiti korisnika i sprečavanju zloupotreba.

Foto: Shutterstock

Sve veći pritisak regulatora sada se širi i na druge velike platforme poput TikTok i Instagram, koje su pod lupom zbog alata sposobnih da generišu eksplicitne slike bez pristanka. Evropske vlasti planiraju uvođenje strožih pravila kako bi zaustavile širenje manipulisanog i neovlašćenog sadržaja, što bi moglo značajno promeniti način na koji se veštačka inteligencija koristi u digitalnom okruženju, ali i kako same aplikacije funkcionišu.

Promene su već počele da se osećaju među korisnicima, jer platforme uvode dodatne filtere, ograničenja i zaštitne mehanizme kako bi smanjile zloupotrebu AI tehnologija. Stručnjaci upozoravaju da ovakve mere neće samo rešavati trenutne probleme, već će dugoročno oblikovati pravila digitalne kreativnosti, pokušavajući da pronađu ravnotežu između slobode izražavanja i zaštite privatnosti pojedinaca.

Nova pravila neće ciljati samo jednu kompaniju, već čitav tehnološki sektor. Fejsbuk, Instagram i TikTok moraće da uvedu znatno strože kontrole nad sadržajem koji generiše veštačka inteligencija, posebno kada je reč o zaštiti privatnosti i sprečavanju zloupotreba.

Ipak, zbog svoje strategije i javnih stavova, Elon Musk i njegova platforma X izdvajaju se kao najizloženiji potencijalnim posledicama. Ukoliko se tenzije dodatno pojačaju, razvoj situacije mogao bi prerasti u širi sukob sa evropskim institucijama, naročito ako tehnološke odluke počnu da dobijaju i političku dimenziju.

BONUS VIDEO

Hi-Tech

Veštačka inteligencija i loto su spoj koji mnoge zanima mogu li računarski programi zaista predvideti dobitne brojeve?

sledeća vest