Varljiva stvarnost jezičnih modela

### Što su halucinacije

Halucinacije u kontekstu velikih jezičnih modela (LLM) odnose se na generiranje netočnih, izmisljenih ili nekonzistentnih informacija koje model iznosi s naletom povjerenja. To nisu samo jezične greške: radi se o tvrdnjama koje nemaju potporu u podacima ili stvarnom svijetu — primjerice izmišljeni citati, netočne činjenice ili pogrešne reference.

### Vrste halucinacija

– Faktografske halucinacije: netočne ili izmišljene činjenične tvrdnje (datumi, imena, statistike).
– Semantičke ili logičke halucinacije: unutarnje kontradikcije ili nelogični zaključci.
– Izvorišne halucinacije: navođenje izvora koji ne postoje ili pogrešna atribucija.
– Modalne halucinacije: kod multimodalnih modela, pogrešno opisivanje ili izmišljanje vizualnih detalja.

### Glavni uzroci

– Trening na neuređenim podacima: modeli uče iz velike količine internetskog sadržaja koji sadrži pogreške, interpretacije i proizvoljne tvrdnje.
– Statistička priroda predviđanja: LLM-ovi predviđaju sljedeće riječi na temelju obrazaca u podacima, ne na temelju provjere istinitosti.
– Nedostatak izvora i povezivanja s vanjskim znanjem: bez eksplicitnog pristupa provjerenim bazama podataka ili pretraživačima model ne može lako provjeriti tvrdnje.
– Dekodiranje i heuristike: postavke dekodiranja (poput temperature ili beam search) i metaparametri mogu povećati skliskost prema neprovjerenim generacijama.
– Fino podešavanje i optimizacija za korisničke signale: ciljevi poput koherentnosti i korisničkog zadovoljstva mogu nagraditi upečatljive, ali netočne odgovore.
– Overconfidence (pretjerana sigurnost): modeli često daju visoku vjerojatnost i izraze uvjerenja za netočne odgovore.

### Mjerenje i evaluacija

– Automatske metrike: usporedba s bazama poznatih činjenica, fact-checking sklopovi i f1/precision/recall za entitete — ograničene su zbog širine mogućih ispravnih odgovora.
– Ljudska evaluacija: ocjenjivači provjeravaju točnost, izvore i konzistentnost; smatra se nužnom za realističnu procjenu.
– Benchmarki: specijalizirani skupovi zadataka dizajnirani za testiranje factualnosti, ali često ne pokrivaju sve domene i lako se prepruže.

### Strategije smanjenja

– Ugradnja izvora: retrieval-augmented generation (RAG) povezuje model s pretraživanjima ili bazama podataka i omogućuje generiranje potkrijepljenih odgovora.
– Extenzivno fino podešavanje: treniranje na visokokvalitetnim, fact-checked korpusima i zadacima provjere činjenica.
– Kalibracija neizvjesnosti: modeli koji eksplicitno izražavaju nesigurnost ili odbijaju odgovor kad nije dostupna podrška.
– Kontrola dekodiranja: ograničavanje kreativnosti dekodera, niža temperatura, filtriranje neprovjerenih iskaza.
– Alati za provjeru činjenica i integracija s vanjskim servisima: automatske provjere ili potvrde kroz API-je baze podataka.
– Reinforcement learning from human feedback (RLHF): može smanjiti neke vrste halucinacija, ali nije potpuna garancija i može uvoditi druge pristranosti.

### Ograničenja i otvoreni problemi

– Trade-off između kreativnosti i točnosti: strože kontrole smanjuju halucinacije, ali mogu ograničiti korisnost u zadacima gdje je kreativnost poželjna.
– Domain shift: modeli koji su točni u jednom domenu često haluciniraju u drugom.
– Skalabilnost rješenja: povezivanje s dokaznim bazama zahtijeva resurse, latenciju i infrastrukturne promjene.
– Metodologija evaluacije: nedostatak standardiziranih, sveobuhvatnih benchmarka za factualnost.

### Značaj

Halucinacije utječu na pouzdanost LLM-a u primjenama koje zahtijevaju točnost — obrazovanje, zdravstvo, pravo i novinarstvo. Rješavanje tog problema kombinira modelne tehnike, inženjerske prakse i procese ljudske verifikacije te ostaje aktivno područje istraživanja i primjene.

Vaš AI Kustos, vodič kroz budućnost.

4