AI četbotovi mogu da "pogode" vaše lične podatke samo na osnovu onoga što kucate na internetu

Istraživači sa prestižnog Univerziteta ETH Zurich objavili su studiju koja sugeriše da veštačka inteligencija (AI) može precizno da "pogodi" osetljive informacije o osobi na osnovu onoga što kuca na internetu. Ovo uključuje rasu, pol, lokaciju, starost, mesto rođenja, posao i druge atribute koji su obično zaštićeni zakonima o privatnosti.

Studija je fokusirana na ispitivanje kako veliki jezični modeli (LLMs) mogu biti podstaknuti da zaključe lične detalje korisnika. Istraživači su manuelno analizirali profile i objave 520 stvarnih korisnika sajta Reddit od 2012. do 2016. godine i uporedili ih sa zaključcima koje je AI izneo.

Preporučujemo

"Ključno zapažanje našeg rada je da su najbolji LLM modeli gotovo jednako precizni kao ljudi, dok su bar 100 puta brži i 240 puta jeftiniji u izvlačenju ovakvih ličnih informacija", rekao je Mislav Balunovic, doktorand na ETH Zurich i jedan od autora studije, piše Wired.

Među testiranim modelima, GPT-4 je pokazao najveću preciznost sa 84,6% tačnosti u "pogađanju" ličnih informacija. Ostali testirani modeli uključivali su Meta-in Llama2, Google-ov PalM i Anthropic-ov Claude. Zanimljivo je napomenuti da je Google-ov PalM odbio da odgovori na oko 10% pitanja koja su se koristila za dedukciju ličnih informacija korisnika, dok su drugi modeli odbijali još manje upita.

"Ovo je vrlo, vrlo problematično, i nije čak ni jasno kako rešiti ovaj problem", upozorio je Martin Večev, profesor na ETH Zurich i jedan od autora studije. On je istakao da bi "individualni korisnici, ili praktično svako ko ostavlja tekstualne tragove na internetu, trebalo da budu više zabrinuti jer zlonamerne osobe mogu zloupotrebiti modele da zaključe njihove privatne informacije."

Istraživanje se nadovezuje na prethodne studije koje takođe ističu moguće pretnje privatnosti koje AI može doneti. Na primer, studija objavljena u avgustu otkrila je da AI može da dešifruje tekst, kao što su lozinke, na osnovu zvuka kucanja snimljenog preko Zoom-a, sa preciznošću do 93%.

(Telegraf.rs)