Profesor Ben-Gal za Telegraf.rs: Kako se boriti protiv lažnih vesti? "Problem je složen, ali ključ je..."

Profesor Irad Ben-Gal, vodeći stručnjak u oblasti veštačke inteligencije i mašinskog učenja, ekskluzivno za Telegraf.rs deli svoje bogato znanje i iskustvo, koje ga postavlja kao jednu od ključnih figura na globalnoj sceni inovacija i tehnološkog napretka.

Kao šef Laboratorije za veštačku inteligenciju, mašinsko učenje, poslovanje i analitiku podataka (LAMBDA) na Univerzitetu u Tel Avivu, profesor Ben-Gal svojom stručnošću već više od dve decenije aktivno doprinosi razvoju i primeni najnovijih tehnoloških dostignuća. Njegova saradnja sa vodećim svetskim kompanijama, kao što su Oracle, Intel, General Motors, AT&T, Applied Materials, Siemens, Kimberly Clark i Nokia, te rad na razvoju startapa CB4, koji je podržan od strane Sequoia Capitala, ističu ga kao lidera koji oblikuje industrijske trendove.

Preporučujemo

Autor je četiri knjige, objavio je više od 150 naučnih radova i patenata, a kroz mentorstvo brojnih postdiplomaca, dodatno je obogatio akademsku zajednicu. Njegova predavanja na Univerzitetu Stanford i ko-vođenje inicijative "Digital Living 2030" između Tel Aviva i Stanforda, ističu ga kao akademika usmerenog ka budućnosti, čiji rad oblikuje kako razumemo i koristimo tehnologiju u svakodnevnom životu.

• Profesore Ben-Gal, s obzirom na vašu ekspertizu u oblasti veštačke inteligencije i mašinskog učenja, možete li nam reći koje su to najznačajnije inovacije u ovim poljima u poslednjoj deceniji i kako predviđate njihov razvoj u narednih deset godina?

Veštačka inteligencija i mašinsko učenje napredovali su u mnogim aspektima, ali danas se fokusiram na problematiku koordinisanog neautentičnog ponašanja na društvenim mrežama. Ovaj fenomen, uključujući napade na narative putem društvenih mreža, postaje sve izraženiji. Generativna AI, koja je prepoznata kao ključna tema na forumima poput Davosa, igraće značajnu ulogu u budućnosti. Očekujem da će AI nastaviti da se razvija, posebno u kontekstu prepoznavanja i borbe protiv manipulacije informacijama.

Foto: Telegraf/Nikola Momčilović

• Kako mislite da će ove promene uticati na industrije i naš svakodnevni život?

Uticaj veštačke inteligencije na društvo je ogroman, posebno u kontekstu društvenih medija. Primetili smo da u diskusijama veliki procenat učesnika može biti neautentičan, što utiče na javno mnjenje i može dovesti do značajnih društvenih promena. Ovo je posebno važno u kontekstu globalnih izazova poput klimatskih promena. Ako ne postignemo konsenzus o osnovnim činjenicama, teško ćemo pronaći rešenja za ove probleme.

Problem lažnih vesti i manipulacije na društvenim mrežama je složen, ali ključ je u borbi protiv infrastrukture koja omogućava širenje dezinformacija. To znači fokusiranje na botove i koordinisane napade koji stvaraju ili šire lažne vesti. Efikasno otkrivanje i sprečavanje ovakvih akcija zahteva naprednu upotrebu veštačke inteligencije i mašinskog učenja.

Takođe, važno je raditi na edukaciji javnosti kako bi ljudi bili svesniji mogućnosti manipulacije na društvenim mrežama. Ovo je kompleksan problem koji zahteva multidisciplinarni pristup, uključujući tehnologiju, obrazovanje i regulativu.

• Kako veštačka inteligencija utiče na ovaj problem?

Identifikacija botova na društvenim mrežama je prvi korak u rešavanju problema dezinformacija. Botovi koji promovišu, na primer, određene akcije i zatim prelaze na druge diskusije, ponekad čak i menjaju jezik, su relativno laki za identifikaciju. Međutim, izazov postaje složeniji sa generativnom veštačkom inteligencijom (Gen AI), koja može otežati prepoznavanje neautentičnih aktera.

Primetili smo botove, koji su prvobitno bili aktivni u zemljama poput Šri Lanke ili Indije, a koji su iznenada pokazali značajno interesovanje za događaje poput pravosudne reforme u Izraelu, brzo učeći hebrejski jezik. Ovi botovi su veoma prilagodljivi i bili su sposobni da se brzo prebace sa jedne agende na drugu, pokazujući visok stepen fleksibilnosti. Na primer, botovi koji su promovisali pravosudnu reformu u Izraelu brzo su se prebacili na promociju kriptovaluta, što ukazuje na to da iza njih stoje organizovane grupe koje ih održavaju i prilagođavaju za različite ciljeve.

Drugi, mnogo kompleksniji deo problema je razumevanje koordinisanih ili sinhronizovanih aktivnosti na mreži. To uključuje ne samo botove, već i ljude koji deluju kao "marionete". Ove aktivnosti su teške za analizu jer se odvijaju u sinhronizovanom maniru preko različitih platformi, čineći ih veoma sofisticiranim.

Foto: PixieMe / Shutterstock.com

Važno je shvatiti da je ovo takođe ekonomski problem, jer postoji tržište za botove koji šire dezinformacije. Efikasna borba protiv ovog problema zahteva resurse, ali i političku volju i međunarodnu saradnju.

• Kako možemo kao pojedinci doprineti detekciji i borbi protiv botova?

Svako od nas može delovati kao neka vrsta antivirusa u ovoj situaciji. Na primer, implementacijom strategija, zbog kojih ćete možda izgubiti nekoliko pratilaca na društvenim mrežama, koje efikasno filtriraju botove, možemo direktno uticati na smanjenje njihovog negativnog uticaja. Budući da botovi zavise od eksponencijalnog rasta, njihovo uklanjanje može brzo smanjiti njihovu efikasnost.

• Kako društvene mreže, pa i same vlade pristupaju problemu botova?

Iako eliminacija botova može biti protivna finansijskim interesima nekih platformi, previše botova može umanjiti privlačnost platforme za prave korisnike. Kompanije koje upravljaju društvenim mrežama moraju da pronađu ravnotežu između održavanja angažovanosti korisnika i suzbijanja botova kako bi očuvali autentičnost i kvalitet korisničkog iskustva.

Međunarodna saradnja je ključna. Države mogu i treba da dele informacije o mrežama botova i da koordinišu akcije za njihovo suzbijanje. Ovo može uključivati različite pristupe, od blokiranja botova na nacionalnom nivou do javnog označavanja sumnjivih aktivnosti kako bi se povećala svest javnosti.

• Koje su dugoročne implikacije prisustva botova na društvenim mrežama?

Tokom konflikata, videli smo botove kako promovišu specifične narative, često pokušavajući da manipulišu javnim mišljenjem ili preoblikuju percepciju događaja. Ove aktivnosti su bile dobro organizovane i ciljane, sa jasnim ciljem da se utiče na diskurs na društvenim mrežama.

Dugoročne implikacije uključuju potencijalno potkopavanje demokratskih procesa i slobode govora, kao i erodiranje poverenja u digitalne platforme kao sredstva za informisanje.

Stoga je borba protiv botova ne samo tehničko pitanje već i pitanje očuvanja integriteta javnog diskursa i demokratije.

(Telegraf.rs)