radiobalkanfox
Anthropic je proširio program koji proverenim stručnjacima za sajber bezbednost omogućava testiranje najmoćnijih AI modela uz slabije zaštite.
Američka kompanija za razvoj veštačke inteligencije Antropik (Anthropic) proširila je program koji proverenim stručnjacima za sajber bezbednost omogućava testiranje njenih najmoćnijih AI modela uz smanjene zaštitne mehanizme.
Do toga je došlo nakon što je inicijativa Projekat Glasving (Project Glasswing) ove godine pomogla u otkrivanju više od 100.000 softverskih ranjivosti, preneo je Rojters.
Partneri Antropika u okviru pomenutog projekta, čiji je cilj zaštita najvažnijeg svetskog softvera, identifikovali su najmanje 129.000 potvrđenih ranjivosti između aprila i jula, dok je sopstveno skeniranje otvorenog koda kompanije od aprila do oktobra otkrilo još 5.500 ranjivosti.
Foto: Shutterstock
Od ukupnog broja, više od 33.000 ranjivosti do sada je ocenjenо kao kritično ili visoko rizično.
Antropik je saopštio da su stvarni efekti verovatno znatno veći i da bi ukupan broj mogao biti najmanje pet puta veći, jer podaci potiču iz ograničenog broja partnerskih organizacija.
Redizajnirani Program za verifikaciju sajber bezbednosti (Cyber Verification Program – CVP) objavljen je u utorak i objedinjuje dva programa koja je Antropik sprovodio tokom prethodnih šest meseci.
Projekat Glasving omogućio je organizacijama koje štite kritični softver pristup modelu Klaud mitos (Claude Mythos), dok je raniji CVP proverenim bezbednosnim timovima omogućavao pristup modelima Klaud opus (Claude Opus) i Sonet (Sonnet) sa smanjenim zaštitnim mehanizmima.
BONUS VIDEO
Norveška vlada priprema zakon kojim bi bila zabranjena upotreba pametnih naočara sa kamerama na pojedinim javnim mestima, dok bi privatna upotreba i dalje bila dozvoljena.
Tokom internih bezbednosnih testiranja, OpenAI je zabeležio fascinantan i zabrinjavajući fenomen neusklađenog ponašanja.
Instagram priprema novu AI funkciju koja bi korisnicima trebalo da pomogne da bolje razumeju zbog čega neki njihovi video-snimci privlače veću pažnju publike od drugih. Alat je deo aplikacije Edits, ali nije namenjen automatskoj montaži sadržaja.
Aplikacije poput ChatGPT-ja nemaju uvid uvid u sve naše aktivnosti na računaru, ali im pojedine opcije mogu omogućiti pristup određenim podacima.
Norveška vlada priprema zakon kojim bi bila zabranjena upotreba pametnih naočara sa kamerama na pojedinim javnim mestima, dok bi privatna upotreba i dalje bila dozvoljena.
Dodaj komentar