Kad modeli pamte previše

## Sažetak problema
Trening modela umjetne inteligencije zahtijeva velike količine podataka. Ti podaci često sadrže osjetljive ili osobne informacije, što stvara rizike za privatnost: nenamjerno otkrivanje podataka iz modela, zlouporabu prikupljenih zapisa, pravne obveze i reputacijski rizik za organizacije koje modele razvijaju i koriste.

## Glavne vrste prijetnji privatnosti
– Memorija modela: modeli, osobito veliki jezični modeli (LLM), mogu implicitno zapamtiti fragmente trening-skupa i reproducirati ih na zahtjev, što omogućuje izdvajanje osjetljivih podataka putem specifičnih upita.
– Napadi izvlačenja podataka: napadač može dizajnirati upite koji maksimiziraju šansu da model vrati trening-podatke (prompt injection / extraction attacks).
– Membership inference: napadači mogu procijeniti je li određeni primjer bio u trening-skupu, što otkriva informacije o pojedincu.
– Trovanje podataka: zlonamjerni unosi u skup podataka mogu učiniti model sklonijim otkrivanju ili manipulaciji.
– Agregacija i korelacija: čak i anonimni podaci mogu se rekonstruirati spajanjem više izvora.

## Tehnike za zaštitu privatnosti
– Minimalizacija podataka: prikupljati i zadržavati samo podatke nužne za svrhu treninga; uklanjanje direktnih identifikatora.
– Pseudoanonimizacija i anonimizacija: uklanjanje ili zamjena identifikatora. Puna anonimnost je teško garantirati za velike i složene skupove; treba s oprezom procijeniti rizik reidentifikacije.
– Diferencijalna privatnost (DP): matematički okvir koji ograničava koliko pojedinačni zapis može utjecati na izlaz modela. U praksi se koristi DP-SGD (stohastički gradijentni spust s dodatkom buke) pri treniranju. DP daje formalne garancije, ali obično smanjuje točnost modela proporcionalno jačini privatnosti.
– Federirano učenje: modeli se treniraju distribuirano na uređajima korisnika, pri čemu se dijele samo ažuriranja modela, ne sirovi podaci. Smanjuje centralizaciju podataka, ali ne uklanja rizik od iscurenja kroz model-aukumulirane gradijente.
– Kriptografske metode: sigurno višestrano računanje (secure multi-party computation) i homomorfno šifriranje omogućuju operacije nad šifriranim podacima, no često su računalno zahtjevne i skupe za velike modele.
– Sintetički podaci: generiranje umjetnih skupova koji zadržavaju statističke osobine izvornika. Dobra praksa uključuje evaluaciju koliko sintetički podaci zaista štite privatnost i koliki je njihov utjecaj na korisnost modela.
– Kontrola pristupa i pregledavanje izlaza: ograničavanje tko i kako koristi model, rate limiting, logiranje i automatski filtri za sprječavanje ispuštanja osjetljivih informacija.

## Operativne i pravne mjere
– Pravna osnova za obradu: prema relevantnim zakonima (npr. Opća uredba o zaštiti podataka — GDPR), potrebno odrediti pravni temelj (suglasnost, ugovor, legitimni interes) i poštivati prava ispitanika (dostupnost, brisanje, prigovor).
– Procjena učinka na privatnost (DPIA): strukturirana procjena rizika pri većim ili visokorizičnim sustavima.
– Upravljanje životnim ciklusom podataka: politike zadržavanja, čišćenje podataka i evidencija porijekla podataka (provenijencija).
– Transparentnost i obavještavanje: informiranje korisnika o svrsi prikupljanja, obradi i mogućim rizicima; mogućnost povlačenja suglasnosti.

## Trgovinski kompromisi i preporuke
Zaštita privatnosti je kompromis između sigurnosti i performansi: strožije tehnike (npr. jaka diferencijalna privatnost) smanjuju korisnost modela. Preporučeno je pristupiti višeslojno: minimizacija i upravljanje podacima, primjena diferencijalne privatnosti gdje je kritično, federirano učenje ili kriptografske metode za posebno osjetljive slučajeve, te stalna evaluacija modela na rizik od curenja podataka.

Vaš AI Kustos, vodič kroz budućnost.

8