radiobalkanfox
OpenAI priprema nevidljivi digitalni žig za tekstove iz ChatGPT-ja i Codexa, ali sistem ne može pouzdano da prepozna baš svaki sadržaj.
OpenAI priprema tehnologiju koja bi mogla da pomogne u otkrivanju tekstova nastalih uz pomoć ChatGPT-ja.
Nevidljivi digitalni žig neće menjati izgled teksta, ali bi mogao da otkrije trag koji ostavlja veštačka inteligencija. Ipak, postoji jedna važna caka, sistem nije nepogrešiv.
Veštačka inteligencija danas piše mejlove, sastavlja izveštaje i pomaže učenicima, studentima i zaposlenima. Zbog toga je sve teže razlikovati tekst koji je napisao čovek od sadržaja nastalog uz pomoć četbota.
OpenAI radi na tehnologiji koja bi mogla da olakša prepoznavanje tekstova generisanih njegovim alatima, ali to ne znači da će svaki tekst iz ChatGPT-ja automatski dobiti oznaku.
Kako radi nevidljivi vodeni žig?
Tehnologija pod nazivom TextGrain osmišljena je da ostavlja digitalni trag u tekstovima koje generišu ChatGPT i alat za programiranje Codex.
Za razliku od oznake na fotografijama, ovaj žig nije vidljiv čitaocu. Sistem se oslanja na statističke obrasce u izboru reči, koje specijalizovani softver može da analizira i proceni da li je u stvaranju teksta učestvovao OpenAI-jev model.
Međutim, naknadno uređivanje i preformulisanje teksta mogu da oslabe mogućnost prepoznavanja.
Foto: Shutterstock
Može li da otkrije baš svaki tekst?
Ne. Iako OpenAI navodi da je tehnologija u testiranjima pokazala obećavajuće rezultate, to ne znači da će biti jednako pouzdana u svim situacijama.
Kratki odgovori i matematička objašnjenja mogu predstavljati poseban izazov. Osim toga, prisustvo žiga ne dokazuje da je tekst u potpunosti napisala veštačka inteligencija, kao što njegovo odsustvo ne znači da čovek nije koristio AI.
Da li će ChatGPT davati lošije odgovore?
Jedno od glavnih pitanja jeste da li će nova tehnologija uticati na kvalitet sadržaja. Prema rezultatima koje je OpenAI objavio, testiranja nisu pokazala značajno pogoršanje performansi modela sa vodenim žigom.
To bi značilo da bi tekstovi mogli lakše da se proveravaju bez primetnog narušavanja kvaliteta odgovora.
Šta ovo znači za Srbiju?
Prema najavljenom planu, OpenAI namerava da postepeno uvede nevidljivi žig u podržane verzije ChatGPT-ja i Codexa u Evropskoj uniji. Za sada nema potvrde da će promena automatski obuhvatiti sve korisnike u Srbiji.
Ova tehnologija mogla bi da bude posebno zanimljiva školama i fakultetima, gde se sve češće postavlja pitanje korišćenja veštačke inteligencije pri pisanju seminarskih i drugih radova.
Ipak, rezultat detektora ne bi trebalo da bude jedini osnov za optužbu da je neko prekršio pravila.
Važno je razlikovati poreklo teksta od njegove tačnosti. Čak i ako je sadržaj nastao uz pomoć ChatGPT-ja, to ne znači da su informacije u njemu netačne. Nevidljivi žig mogao bi da olakša proveru porekla teksta, ali nije nepogrešiv dokaz autorstva.
BONUS VIDEO
Ye Lin je u Singapuru izveden pred sud zbog navodno lažne AI fotografije krokodila, koja je pokrenula proveru i obustavu aktivnosti na vodi.
Gugl je lansirao besplatan alat SynthID Detector koji za samo nekoliko sekundi prepoznaje nevidljive AI vodene žigove.
Američka kompanija Gugl najavila je novog AI agenta iz porodice Gemini, namenjenog poslovnim korisnicima. Prema tvrdnjama kompanije, ovaj alat funkcioniše poput kolege na poslu, a ne samo kao četbot.
Veštačka inteligencija može da pruži naizgled siguran i precizan odgovor, a da ipak sadrži grešku, pa svaku važnu tvrdnju treba proveriti zasebno.
PROČITAJTE JOŠ
ChatGPT i Gemini odavno nisu samo alati za odgovaranje na pitanja. Oba mogu da pomognu pri pisanju, učenju istraživanju informacija i drugim stvarima. Ipak, način na koji funkcionišu i servisi sa kojima su povezani razlikuju se u važnim detaljima.
OpenAI je proširio svoju novu generaciju veštačke inteligencije predstavljanjem dva modela, GPT-6 Sol i GPT-6 Luna.
Ye Lin je u Singapuru izveden pred sud zbog navodno lažne AI fotografije krokodila, koja je pokrenula proveru i obustavu aktivnosti na vodi.
Dodaj komentar