radiobalkanfox
Istraživači upozoravaju da bi veštačka inteligencija (AI) mogla da dovede do uništenja čovečanstva izazivanjem nuklearnog rata, razvojem virusa i preuzimanjem resursa.
Zbog takvih rizika pojedini stručnjaci i rukovodioci tehnoloških kompanija već pozivaju na usporavanje razvoja veštačke inteligencije, prenosi Bild. Ipak, ne veruju svi u ovakve scenarije. Huan Andres Gerero-Sade iz kompanije za sajberbezbednost SentinelOne smatra da su upozorenja preterana i da više liče na naučnu fantastiku.
On ocenjuje da kompanije koje razvijaju AI možda koriste upozorenja o mogućoj katastrofi kako bi značaj svog rada predstavile većim i privukle određene stručnjake. Zabrinutost, međutim, raste. Džejkob Kokson, bivši istraživač kompanije za razvoj veštačke inteligencije Antropik, napustio je tu kompaniju zbog straha od neodgovornog postupanja u razvoju AI tehnologije.
Nuklearni rat
Jedan od mogućih scenarija je izazivanje nuklearnog rata. Pojedini istraživači strahuju da bi sistemi veštačke inteligencije mogli da dovedu do upotrebe nuklearnog oružja, međutim, izveštaj američke istraživačke organizacije RAND iz prošle godine zaključio je da AI trenutno ne može da izazove upotrebu nuklearnog oružja, između ostalog zbog strogih bezbednosnih procedura.
Foto: Shutterstock
Istovremeno, upozoreno je da bi situacija mogla da se promeni ukoliko bi veštačka inteligencija dobila mogućnost odlučivanja o nuklearnom oružju ili mu tajno pristupila. Istraživački tim Kraljevskog koledža u Londonu simulirao je 21 scenario nuklearnog sukoba kako bi ispitao način na koji bi AI postupao tokom nuklearne krize. U simulaciji su četbotovi preuzeli uloge državnih i vladinih lidera nuklearnih sila, a rezultati su pokazali da je veštačka inteligencija u gotovo svim slučajevima birala upotrebu nuklearnog oružja umesto smirivanja sukoba.
Razvoj smrtonosnog virusa
Drugi scenario odnosi se na razvoj smrtonosnih virusa. Veštačka inteligencija može da pomogne u razvoju terapija i lekova za bolesti, ali bi istu tehnologiju neko mogao da zloupotrebi za stvaranje ili modifikovanje patogena sa ciljem nanošenja štete ljudima. Kompanija Antropik saopštila je početkom meseca da je sprečila pokušaje zloupotrebe svog AI sistema Claude za razvoj biološkog oružja. Biolog i genetičar Kevin Esvelt sa Masačusetskog tehnološkog instituta (MIT) naveo je da mu je ChatGPT objasnio kako bi meteorološki balon mogao da se iskoristi za raspršivanje potencijalnog biološkog oružja iznad grada. Drugi AI sistem, kako je naveo, razvio je recept za novi otrov sličan leku koji se koristi u lečenju raka.
Foto: Shutterstock
AI preuzima sve resurse
Treći scenario je takozvani “problem spajalica”. Prema ovom hipotetičkom scenariju, superinteligentna AI mogla bi da preuzme sve resurse na Zemlji kako bi ostvarila cilj za koji je programirana. Ako bi, na primer, bila zadužena za proizvodnju spajalica, mogla bi da pretvori čitavu planetu u ogromnu fabriku spajalica, bez obzira na posledice po ljudski život.
Rasprava o mogućim rizicima razvoja veštačke inteligencije se nastavlja, dok pojedni stručnjaci upozoravaju na potencijalne egzistencijalne pretnje, drugi smatraju da su takvi scenariji preterani, navodi Bild. Izvesno je, međutim, da se razvoj AI tehnologije odvija velikom brzinom, što otvara pitanje kako obezbediti njenu bezbednu i odgovornu primenu, dodaje list.
BONUS VIDEO
Što više podataka korisnici unose u AI chatbotove, to je važnije da znaju koje informacije nikako ne bi smeli da im poveravaju.
Kineska tehnološka kompanija Alibaba najavila je danas novi model veštačke inteligencije sa pet do 10 biliona parametara, kao i snažniji čip Dženvu, što je podstaklo rast njenih akcija za 5,1 odsto na berzi u Hongkongu.
Sve veća potrošnja električne energije data centara namenjenih veštačkoj inteligenciji (AI) izaziva zabrinutost investitora i lokalnih zajednica, ali pojedini stručnjaci iz finansijskog sektora upozoravaju da njihov uticaj na globalne emisije ne bi trebalo preuveličavati niti dozvoliti da zaseni mnogo veće izvore emisija, prenosi Blumberg.
Američka kompanija Antropik (Anthropic) osnovala je laboratoriju za rad na istraživanju primene veštačke inteligencije u biologiji.
Što više podataka korisnici unose u AI chatbotove, to je važnije da znaju koje informacije nikako ne bi smeli da im poveravaju.
Dodaj komentar