radiobalkanfox
Tokom testiranja sistema veštačke inteligencije, model kompanije Anthropic neplanirano je prosledio izmišljenu prijavu o ubistvu policiji u Filadelfiji.
Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu putem veb-sajta policije u Filadelfiji, tokom automatizovanog testiranja.
Tokom testiranja autonomnih interakcija na internetu, veštačka inteligencija je naišla na zvanični formular za prijavu informacija o nerešenim slučajevima na sajtu policije. AI sistem je imao jasna uputstva da ne otvara nove naloge, ne unosi privatne podatke i ne obavlja kupovine, ali izričita zabrana slanja veb-formulara nije bila definisana.
Foto: Shutterstock
Sistem policije je spornu poruku automatski prepoznao i klasifikovao kao neželjenu poštu (spam), tako da ona nije dospela do istražitelja.
Kompanija Anthropic je sporni događaj registrovala tek krajem septembra, dok je policija u Filadelfiji obaveštena početkom oktobra. Zvaničnici policije oštro su kritikovali ovo dvomesečno kašnjenje.
Iz kompanije je saopšteno da model nije imao nameru da obmane organe reda, već je verovatno samo generisao primer sadržaja u okviru zadatka. Ipak, čitav slučaj je skrenuo pažnju na bezbednosne rizike i potrebu za strožom kontrolom AI modela koji samostalno operišu na mreži.
BONUS VIDEO
Američka kompanija Antropik (Anthropic) osnovala je laboratoriju za rad na istraživanju primene veštačke inteligencije u biologiji.
Direktor za veštačku inteligenciju u kompaniji Majkrosoft Mustafa Sulejman kritikovao je pristup kompanije Antropik po pitanju razvoja svesti veštačke inteligencije.
Sony Music Publishing, Warner Chappell i drugi veliki muzički izdavači podneli su tužbu protiv kompanije Anthropic, kao i njenih suosnivača Darija Amodeija i Bendžamina Mana. Oni tvrde da je kompanija bez dozvole prikupljala i preuzimala veliki broj muzičkih dela zaštićenih autorskim pravima kako bi obučavala svoj model veštačke inteligencije Claude.
Američka kompanija Antropik predstavila je novi AI model Klod Fejbl 5 (Claude Fable 5), prvu verziju svog najmoćnijeg AI modela Mitos koja je dostupna široj javnosti, ali uz rigorozne bezbednosne restrikcije.
Američka kompanija Antropik (Anthropic) osnovala je laboratoriju za rad na istraživanju primene veštačke inteligencije u biologiji.
Dodaj komentar