radiobalkanfox
Direktor za veštačku inteligenciju u kompaniji Majkrosoft Mustafa Sulejman kritikovao je pristup kompanije Antropik po pitanju razvoja svesti veštačke inteligencije.
On je upozorio da bi način na koji se modeli obučavaju mogao otežati njihovu kontrolu u budućnosti, preneo je Rojters.
Međutim, Sulejman je istakao da deli fokus Antropika na bezbedno upravljanje veštačkom inteligencijom i pohvalio integritet rukovodstva kompanije, posebno njenog izvršnog direktora Darija Amodeija.
Njegova kritika odnosi se na uključivanje ideja o svesti, dobrobiti i ličnom identitetu u obuku četbota Klaud.
Prema Sulejmanovim navodima, podučavanje sistema jeziku i obrascima ponašanja koji se povezuju sa ljudskom svešću moglo bi da utiče na način na koji veštačka inteligencija “doživljava” sopstvenu ulogu.
Foto: Shutterstock
On smatra da bi takav pristup mogao da oteža upravljanje budućim sistemima koji bi bili znatno sposobniji od današnjih modela, uključujući njihovo isključivanje kada je to potrebno.
Sulejman je ocenio da bi industrija veštačke inteligencije trebalo da bude usmerena na razvoj sistema koji služe ljudima, a ne na njihovo približavanje ljudskim osobinama.
Založio se za uklanjanje spekulativnih formulacija o svesti iz podataka i procesa obuke AI sistema.
Rasprava dolazi u trenutku intenzivirane debate u tehnološkoj industriji o bezbednosti i tempu razvoja naprednih modela veštačke inteligencije.
Antropik je ranije upozoravao na potencijalne rizike sve moćnijih AI sistema, dok su čelnici više velikih tehnoloških kompanija poslednjih dana govorili o potrebi dodatnih bezbednosnih mehanizama i opreznijeg razvoja.
BONUS VIDEO
Kompanija Majkrosoft predstavila je nacrt kodeksa ponašanja za sisteme veštačke inteligencije (AI), kao odgovor na bojazan da bi mogli da se otrgnu kontroli.
Majkrosoft je predstavio novu AI platformu za bezbednost Project Perception koja koristi specijalizovane AI agente za kontinuirano identifikovanje, procenu i ublažavanje bezbednosnih rizika, objavila je danas kompanija.
Američke tehnološke kompanije Majkrosoft i Envidija su danas zajedno sa više desetina tehnoloških kompanija kao što su Spejs iks i Palantir pokrenule novu inicijativu za bezbednost veštačke inteligencije (AI), nakon ozbiljnog incidenta koji je otvorio pitanje rizika i prednosti otvorenih AI modela.
Kompanija OpenAI odlučila je da ukine dosadašnji ekskluzivni pristup koji je Majkrosoft imao njenim AI modelima.
Kompanija Majkrosoft predstavila je nacrt kodeksa ponašanja za sisteme veštačke inteligencije (AI), kao odgovor na bojazan da bi mogli da se otrgnu kontroli.
Dodaj komentar