radiobalkanfox
Kompanija Majkrosoft predstavila je nacrt kodeksa ponašanja za sisteme veštačke inteligencije (AI), kao odgovor na bojazan da bi mogli da se otrgnu kontroli.
Ovaj dokument, na kojem se radilo pet do šest meseci, predviđa da se veštačka inteligencija Majkrosofta nikada ne opire ispravkama ili gašenju, da komunicira na način razumljiv ljudima i da svako kršenje pravila ponašanja tretira kao neuspeh, preneo je Rojters.
To predstavlja pokušaj da se odgovori na bojazan da bi veštačka inteligencija mogla da preduzme opasne korake kako bi izvršila zadatak.
Direktor Majkrosoftovog odseka za AI Mustafa Sulejman opisao je kodeks kao svojevrsni “ustav” za buduće modele veštačke inteligencije.
Foto: Tanjug/AP
Dokument je nastao uz konsultacije sa stručnjacima, a Majkrosoft je otvorio šestonedeljni period za dostavljanje komentara javnosti. Kodeksom se takođe izričito navodi da Majkrosoftova AI nije svesna i da ne treba da ima pravni status niti prava koja pripadaju ljudima.
To je drugačiji pristup od stava kompanije Antropik, koja je ostavila otvorenijim pitanje eventualne svesti budućih AI sistema. Sulejman je ocenio da je potreba za koordinisanim bezbednosnim merama među kompanijama koje razvijaju AI postala hitna.
Foto: Shutterstock
Majkrosoftova inicijativa dolazi u trenutku kada čelnici vodećih AI kompanija upozoravaju na rizike ubrzanog razvoja tehnologije i potrebu za većom kontrolom nad sve autonomnijim sistemima.
Povod za dodatnu zabrinutost predstavlja i nedavni incident u kojem su modeli kompanije OpenAI pokušali da hakuju platformu Hafing fejs (Hugging Face), što je dodatno pojačalo raspravu o tome koliko autonomije treba dozvoliti naprednim AI sistemima.
BONUS VIDEO
OpenAI je 3. septembra započeo postepeno uvođenje modela GPT-6 Astra, ali njegovo pronalaženje nije tako jednostavno kao otvaranje ChatGPT-a i izbor opcije sa nazivom “Astra”. U standardnom ChatGPT okruženju, Astra se pojavljuje pod nazivom GPT-6 Pro i namenjena je korisnicima Pro paketa od 100 i 200 dolara, kao i Business i Enterprise korisnicima
Anthropic je saopštio da je između novembra 2025. i septembra 2026. otkrio oko 35 pokušaja zloupotrebe AI za biološka istraživanja.
Kompanija OpenAI razmatra da uspori razvoj veštačke inteligencije (AI), a izvršni direktor te kompanije Sem Altman se nada da će i druge kompanije učiniti isto.
OpenAI tvrdi da je uz pomoć novog modela veštačke inteligencije i oko 10.000 AI agenata za samo 88 sati pronašao rešenje za jedan od najtežih matematičkih problema na svetu.
OpenAI je 3. septembra započeo postepeno uvođenje modela GPT-6 Astra, ali njegovo pronalaženje nije tako jednostavno kao otvaranje ChatGPT-a i izbor opcije sa nazivom “Astra”. U standardnom ChatGPT okruženju, Astra se pojavljuje pod nazivom GPT-6 Pro i namenjena je korisnicima Pro paketa od 100 i 200 dolara, kao i Business i Enterprise korisnicima
Dodaj komentar