Welcome to Umjetna Inteligencija

Definicija – Egzistencijalni rizik označava rizik koji može dovesti do trajnog i široko rasprostranjenog uništenja ljudske vrste ili do trajnog i ozbiljnog ograničavanja njezine buduće potencijala. Pojam je popularizirao Nick Bostrom i dalje ga koriste istraživači koji se bave budućnošću civilizacije. Klasifikacija i primjeri – Izumiranje: događaj koji rezultira potpunim nestankom Homo sapiensa (npr. globalni… read more »

Sažetak – Deepfake označava sintetizirani audio, video ili slike kojima se lažno pripisuje identitet ili radnja stvarnih osoba. Regulacija deepfakeova nastoji balansirati između zaštite privatnosti, sprječavanja prijevara i očuvanja slobode izražavanja. Vrste rizika – Izborna manipulacija: ciljane lažne snimke mogu narušiti povjerenje u izbore i institucije. – Privatnost i zlostavljanje: stvaranje pornografskog sadržaja bez pristanka… read more »

## Definicija i cilj Objašnjiva umjetna inteligencija (XAI; Explainable AI) označava skup metoda i pristupa koji nastoje učiniti odluke modela stroj­nog učenja razumljivima ljudskim korisnicima i dionicima. Primarni ciljevi su povećanje transparentnosti, olakšavanje provjere ispravnosti i pravednosti modela, podrška donošenju odluka te usklađivanje s regulatornim zahtjevima za objašnjenjima. ## Klasifikacija pristupa – Ante-hoc (intrinzična) objašnjivost:… read more »

## Sažetak problema Trening modela umjetne inteligencije zahtijeva velike količine podataka. Ti podaci često sadrže osjetljive ili osobne informacije, što stvara rizike za privatnost: nenamjerno otkrivanje podataka iz modela, zlouporabu prikupljenih zapisa, pravne obveze i reputacijski rizik za organizacije koje modele razvijaju i koriste. ## Glavne vrste prijetnji privatnosti – Memorija modela: modeli, osobito veliki… read more »

Definicija i područja – Vjerno prenošenje (poravnanje) u kontekstu sigurnosti umjetne inteligencije označava skup tehnika i procesa kojima se nastoji osigurati da sustavi umjetne inteligencije djeluju u skladu s namjerama, vrijednostima i ograničenjima ljudi koji ih koriste ili kojima utječu. – Polja interesa obuhvaćaju: specifikaciju ciljeva, robusnost ponašanja u neočekivanim uvjetima, interpretabilnost modela, nadzor i… read more »

Sažetak Generirani sadržaj koji je nastao primjenom modela umjetne inteligencije na složen način dovodi u pitanje tradicionalne pretpostavke autorskog prava. Ključna rasprava obuhvaća (1) može li djelu bez izravnog ljudskog autorskog doprinosa pripasti autorsko pravo, (2) je li za korištenje za treniranje modela potrebna dozvola nositelja prava i (3) kako regulirati vlasništvo, moralna prava i… read more »

## Sažetak Pristranost u algoritmima označava sustavne pogreške u ponašanju modela koji dovode do nejednakog tretmana pojedinih skupina ljudi ili do pogrešnih zaključaka uslijed neodgovarajućih podataka, dizajna ili primjene. Pojavljuje se u svim fazama životnog ciklusa sustava: prikupljanje podataka, označavanje, odabir značajki, učenje modela i operacionalizacija. ## Kako nastaje – Podaci: neuravnoteženi uzorci, povijesne diskriminacije… read more »