Nova studija upozorava: Veštačka inteligencija bi uskoro mogla da manipuliše našim odlukama na internetu

Nova studija Univerziteta u Kembridžu upozorava na potencijalno opasnu primenu alata veštačke inteligencije (AI), koji bi mogli da manipulišu odlukama korisnika na mreži – od toga šta će kupiti, pa sve do izbora političkih kandidata. Ovo istraživanje ukazuje na razvoj tzv. "ekonomije namera", koncepta koji bi mogao značajno da promeni način na koji se podaci o korisnicima koriste i prodaju.

Prema istraživačima sa Leverhulm centra za budućnost inteligencije (LCFI) u Kembridžu, ekonomija namera je zamišljena kao naslednik ekonomije pažnje, gde društvene mreže privlače korisnike reklamama i sadržajem koji ih drži na platformi. U ekonomiji namera, kompanije koriste AI asistente kako bi prepoznale, predvidele i manipulisale ljudskim namerama, prodajući te podatke onima koji su spremni da plate najvišu cenu.

Preporučujemo

"Vaša motivacija postaje nova valuta", upozorava dr Džoni Pen, istoričar tehnologije iz LCFI-a. Bez adekvatnih regulacija, ekonomija namera mogla bi negativno uticati na slobodne i poštene izbore, nezavisne medije i tržišnu konkurenciju, ističe on.

Istraživanje ukazuje da veliki jezički modeli (LLMs), poput onih koji pokreću četbotove poput ČetGPT-a, omogućavaju AI alatima da predviđaju i upravljaju korisničkim ponašanjem na osnovu "intencionalnih, psiholoških i ponašajnih podataka". Na primer, AI model može sugerisati određeni film korisniku na osnovu njegovih prethodnih aktivnosti ili čak unapred organizovati aktivnosti poput rezervisanja karata.

AI alati mogu prilagoditi sadržaj u realnom vremenu, koristeći podatke poput korisničkog jezika, političkih sklonosti, godina ili pola, kako bi povećali šanse za postizanje cilja – bilo da je to prodaja karte za film ili hotelske rezervacije.

Opasnost od personalizovane manipulacije

Jedan od primera koji se navodi u studiji je Cicero, AI model kompanije Meta, koji je pokazao sposobnost "ljudskog nivoa" u igri "Diplomatija". Ova igra zahteva predviđanje namera i strategije protivnika, što nagoveštava kako AI može da koristi iste metode za personalizovanu manipulaciju korisnicima.

Dalje, istraživanje ukazuje da će kompanije poput Meta moći da aukcijski prodaju podatke o korisničkim namerama, kao što su planovi za putovanja ili odluke o kupovini. Iako industrija koja predviđa ljudsko ponašanje već postoji, AI modeli obećavaju da će taj proces podići na viši nivo, nudeći visoko personalizovane i dinamične podatke oglašivačima.

Prema istraživačima, postoji hitna potreba za regulacijom kako bi se sprečile zloupotrebe ovog koncepta. Bez adekvatnih zakonskih okvira, AI alati bi mogli postati moćno sredstvo za manipulaciju, ugrožavajući slobodne izbore i prava potrošača. Dok tehnologija napreduje, ključna pitanja ostaju – ko će kontrolisati te podatke i kako će oni biti korišćeni?

(Telegraf.rs)