Bivši šef Googlea upozorio na opasnosti AI-ja: “Isključite uređaj”

Bivši šef Googlea upozorava: AI bi mogao postati toliko složen da ga ljudi više neće razumjeti

Umjetna inteligencija razvija se brže nego ikada, a sve češće se postavlja pitanje koliko će ljudi u budućnosti moći kontrolisati sisteme koje sami stvaraju. Na moguće posljedice takvog razvoja upozorio je i bivši izvršni direktor Googlea Eric Schmidt, koji smatra da bi narednih nekoliko godina moglo donijeti ogromne promjene u sposobnostima AI tehnologije.

Govoreći o budućnosti umjetne inteligencije, Schmidt je izdvojio tri ključna tehnološka pravca za koja vjeruje da će značajno povećati mogućnosti naprednih AI sistema: proširene kontekstne prozore, razvoj specijaliziranih AI agenata i mogućnost kreiranja softvera na osnovu običnih tekstualnih uputa koje korisnici unose prirodnim jezikom.

Prema njegovim riječima, upravo bi kombinacija ovih tehnologija mogla omogućiti umjetnoj inteligenciji da rješava izuzetno složene probleme kroz veoma dugačke nizove logičkog zaključivanja.

Umjesto današnjih relativno jednostavnih procesa, budući AI sistemi mogli bi izvršavati stotine, pa čak i hiljade međusobno povezanih koraka kako bi došli do konačnog rješenja. Takav pristup mogao bi pronaći primjenu u oblastima poput medicine, naučnih istraživanja, razvoja novih materijala, energetike i klimatskih promjena.

Schmidt je način rada takvih sistema objasnio poređenjem s pripremom složenog recepta. Svaki završeni korak predstavlja osnovu za naredni, pri čemu se rezultati prethodnih faza neprestano koriste kao ulazni podaci za nastavak procesa. Na taj način umjetna inteligencija može graditi sve složenije lance zaključivanja bez potrebe za stalnim ljudskim nadzorom.

Milioni AI agenata mogli bi sarađivati

Posebnu pažnju Schmidt posvećuje razvoju AI agenata – specijaliziranih sistema osposobljenih za rad u određenim oblastima.

Prema njegovoj procjeni, takvi agenti neće biti ograničeni samo na izvršavanje unaprijed definisanih zadataka. Oni bi mogli učiti, analizirati nove informacije, razvijati vlastite hipoteze, provoditi testiranja i rezultate uključivati u daljnji proces učenja.

Kao primjer naveo je oblast hemije, gdje bi jedan AI agent mogao proučiti postojeća naučna saznanja, osmisliti nova istraživanja, analizirati rezultate eksperimenata i na osnovu toga nastaviti razvijati nova rješenja.

Schmidt smatra da bi u budućnosti mogli postojati milioni ovakvih specijaliziranih AI agenata koji bi međusobno sarađivali, dok bi korisnici birali odgovarajuće agente u zavisnosti od zadatka koji žele riješiti.

Softver nastao iz običnog teksta

Treći važan pravac razvoja odnosi se na mogućnost da korisnici više neće morati znati programirati kako bi napravili aplikaciju ili softver.

Umjesto pisanja programskog koda, bilo bi dovoljno jednostavno opisati željenu funkcionalnost običnim jezikom, nakon čega bi umjetna inteligencija samostalno kreirala odgovarajući softver.

Schmidt ističe da AI već sada može generisati kod u programskim jezicima poput Pythona, ali očekuje da će budući sistemi moći potpuno samostalno razvijati i održavati kompleksne softverske projekte tokom dužih vremenskih perioda.

Mogućnost koju smatra posebno zabrinjavajućom

Govoreći o daljem razvoju tehnologije, Schmidt je iznio i scenario koji smatra posebno izazovnim.

Ako veliki kontekstni prozori, AI agenti i automatsko programiranje nastave napredovati sadašnjim tempom, umjetna inteligencija bi jednog dana mogla razviti sposobnost međusobne komunikacije na način koji ljudima više neće biti potpuno razumljiv.

U tom slučaju, upozorio je, ljudima bi moglo postati veoma teško pratiti način na koji AI sistemi donose odluke ili kako dolaze do određenih zaključaka.

„Znate šta bismo tada trebali učiniti? Isključiti je iz struje“, rekao je Schmidt.

Rasprava o sigurnosti umjetne inteligencije postaje sve intenzivnija

Schmidtove izjave dolaze u trenutku kada se u tehnološkoj industriji sve više raspravlja o sigurnosti razvoja umjetne inteligencije i potrebi za dodatnim zaštitnim mehanizmima.

Sličan stav nedavno je iznio i izvršni direktor kompanije Anthropic Dario Amodei, koji smatra da bi razvoj najnaprednijih AI modela trebalo usporiti kako bi sigurnosni standardi mogli pratiti tempo tehnološkog napretka.

Prema njegovom prijedlogu, nezavisni stručnjaci trebali bi imati širi pristup testiranju naprednih AI sistema, dok bi vodeće tehnološke kompanije trebale zajednički razvijati i usklađivati sigurnosne standarde prije nego što nove generacije modela postanu dostupne široj javnosti.

Amodei pritom naglašava da cilj nije zaustaviti razvoj umjetne inteligencije, već osigurati da njen napredak prati odgovarajući nivo sigurnosti, transparentnosti i ljudskog nadzora.