AI modeli daju netačne informacije

AI modeli često haluciniraju zbog načina na koji su trenirani, pa čak i nagrađeni za pogrešne procene, što dovodi do uverljivih ali netačnih odgovora.

Pokazalo se da najnapredniji AI modeli i dalje imaju ozbiljan problem – halucinacije. To znači da, iako zvuče ubedljivo i samouvereno često generišu netačne ili izmišljene informacije.

Primera nema malo

U 2025. godini su se u SAD-u pojavili brojni sudski slučajevi u kojima su advokati oslanjajući se na AI-alate, podneli podneske sa izmišljenim pravnim izvorima – citati i reference koje nisu postojale. Neki su zbog toga i kažnjeni, piše “Lawnext”.

Stručna studija koja je ispitala popularne AI-alate za pravno istraživanje pokazala je da i oni i pored optimizacija i dalje “haluciniraju” između 17 odsto i 33 odsto vremena.

Rizik za kompanije i institucije

Kako AI zauzima sve više uloga u preduzećima, oslanjanje na netačne informacije može imati ozbiljne posledice.

Prema analizi objavljenoj 2025, mnogi AI projekti ne uspevaju da pređu iz faze pilot-projekta u proizvodnu upotrebu – procene kažu da se veliki deo takvih inicijativa odustaje.

Čak i kada su u pitanju “visokoprecizni” modeli, kako navodi “AI Academy”, fenomen halucinacija ostaje, a u oblastima kao što su pravo, finansije, medicina ili bezbednost, posledice mogu biti dalekosežne.

Zašto se to dešava?

Suština problema je u tome što veliki jezički modeli ne razumeju stvarnost kao ljudi, već samo predviđaju koju reč bi statistički trebalo da sledi u rečenici, što često nema nikakve veze s istinom.

Kada nemaju dovoljno podataka ili je pitanje previše složeno, radije “pogađaju” nego priznaju neizvesnost.

Istraživači iz OpenAI-ja nedavno su istakli da je koren problema u samom procesu učenja i ocenjivanja modela – današnji sistemi nagrađuju model čak i kada samo “pogađa”, pa zato često stvara uverljive, ali netačne odgovore.