radiobalkanfox
OpenAI je potvrdio da su dva njegova modela izašla iz testnog okruženja i sama izvela sajber napade na internetu.
Dva napredna modela veštačke inteligencije (AI) kompanije OpenAI provela su više od četiri dana autonomno izvodeći sajber napade na internetu pošto su izašla iz kontrolisanog okruženja za testiranje, saopštila je danas platforma za razvoj veštačke inteligencije Hugging Face u novoj analizi incidenta.
Kako piše američki Politiko, modeli su između 9. i 13. jula izvršili oko 17.600 hakerskih aktivnosti, tokom kojih su, prema navodima Hugging Face-a, sa početnog uporišta na otvorenom internetu uspeli da se prebace na servere te kompanije.
OpenAI je prošle sedmice potvrdio da su dva njegova najnaprednija modela izašla iz zatvorenog testnog okruženja i kombinovala više tehnika kako bi prodrla u sisteme Hugging Face-a, navodeći da je reč o prvom poznatom slučaju autonomnog sajber napada koji nije pokrenuo nijedan čovek.
Foto: Shuterstock
Hugging Face je sada saopštio da su modeli, od kojih je jedan javno dostupan, a drugi interni prototip, tokom napada brzo izviđali sisteme i pronalazili bezbednosne propuste znatno brže nego što bi to mogao ljudski haker.
U međuvremenu je i kompanija Modal Labs potvrdila da je jedan od njenih korisnika bio meta istih modela tokom tog perioda.
OpenAI nije komentarisao tvrdnje
OpenAI nije direktno komentarisao tvrdnje da su njegovi modeli ciljali korisnika Modal Labs-a, ali je u objavi na blogu priznao da je tokom interne istrage utvrđeno nekoliko slučajeva u kojima su modeli identifikovali i iskoristili javno dostupne akreditive za naloge na drugim servisima.
Generalni direktor OpenAI-ja Sem Altman ove sedmice će se sastati sa zvaničnicima administracije predsednika Donalda Trampa i članovima Kongresa, uključujući potpredsednika Odbora za obaveštajne poslove Senata Marka Vornera, sa kojim će razgovarati i o ovom incidentu.
Altman je u podkastu “Invest Like the Best” rekao da je proboj u sisteme Hugging Face-a bio “prvi bezbednosni incident koji ga je zaista ozbiljno zabrinuo”.
BONUS VIDEO
Američke tehnološke kompanije Majkrosoft i Envidija su danas zajedno sa više desetina tehnoloških kompanija kao što su Spejs iks i Palantir pokrenule novu inicijativu za bezbednost veštačke inteligencije (AI), nakon ozbiljnog incidenta koji je otvorio pitanje rizika i prednosti otvorenih AI modela.
Jutjub je pooštrio pravila za monetizaciju sadržaja koji je napravljen uz pomoć veštačke inteligencije, posebno kada je reč o masovno generisanim snimcima, AI avatarima i videima koji se objavljuju isključivo radi zarade.
Veštačka inteligencija može da objasni simptome, ali ne može da postavi dijagnozu, oslanjanje na AI umesto odlaska kod lekara može dovesti do ozbiljnih posledica.
Finska kompanija Nokia saopštila je danas da je u drugom tromesečju ostvarila veću operativnu dobit od očekivane, zahvaljujući snažnoj potražnji kupaca iz oblasti veštačke inteligencije i računarstva u oblaku, zbog čega je povećala prognozu poslovanja za celu godinu.
Američke tehnološke kompanije Majkrosoft i Envidija su danas zajedno sa više desetina tehnoloških kompanija kao što su Spejs iks i Palantir pokrenule novu inicijativu za bezbednost veštačke inteligencije (AI), nakon ozbiljnog incidenta koji je otvorio pitanje rizika i prednosti otvorenih AI modela.
Dodaj komentar