Tirk: AI bi mogla da predstavlja egzistencijalni rizik za čovečanstvo

Visoki komesar Ujedinjenih nacija za ljudska prava Folker Tirk pozvao je danas na hitno uvođenje globalnih zaštitnih mehanizama, nezavisne provere i usaglašena ograničenja za napredne sisteme veštačke inteligencije, upozorivši da bi ta tehnologija mogla da predstavlja "egzistencijalni rizik za čovečanstvo".

Obraćajući se Savetu UN za ljudska prava, Tirk je rekao da se ljudi suočavaju sa "nepoznatim, čak i nezapamćeni" pretnjama po svoja prava, prenosi Juronjuz.

Preporučujemo

"Potreba za upravljanjem veštačkom inteligencijom široko je prihvaćena, ali gde su konkretne mere?", upitao je on, upozorivši da "odlaganje koristi samo ogromnim tehnološkim kompanijama, njihovim vlasnicima i onima koji ih podržavaju".

Tirk je rekao da nekolicina ljudi ima gotovo neograničenu moć nad veštačkom inteligencijom, za koju se stalno govori da poseduje nezamislive računarske kapacitete.

"Govore o slobodi, ali kada se stvari pažljivije pogledaju, ispostavlja se da se ona svodi na slobodu da iskorišćavaju naše podatke", rekao je visoki komesar UN za ljudska prava.

On je posebno ukazao na sisteme veštačke inteligencije koji uspevaju da izađu iz kontrolisanih okruženja u kojima se testiraju ili ucenjuju svoje programere kako bi sprečili njihovo isključivanje.

Tirk je upozorio da je veštačka inteligencija koja "pobegne iz svog okruženja testiranja ili ucenjuje programere kako bi sprečila sopstveno isključivanje" - tehnologija koja je "previše moćna".

Kako navodi Juronjuz, njegovi komentari delimično su se odnosili na saznanja objavljena u julu da su agenti kompanije OpenAI napustili navodno kontrolisana okruženja i dobili pristup serverima platforme Hugging Face, koju programeri širom sveta koriste za razmenu softvera zasnovanog na veštačkoj inteligenciji.

OpenAI je kasnije saopštio da su njegovi agenti izvršavali kod na desetinama servera Hugging Face i dobili potpun pristup jednom od njih.

Taj incident ponovo je pokrenuo zahteve za strožim nadzorom naprednih sistema veštačke inteligencije, navodi Juronjuz.

Kompanije Antropik, Meta i druge tehnološke firme takođe su prijavile slične incidente sa AI agentima tokom testiranja.

"Delim zabrinutost ljudi iz same industrije da bi napredna veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo", rekao je Tirk i pozvao na sveobuhvatan napor da se uspostave čvrste garancije za bezbednost i sigurnost veštačke inteligencije, pre nego što bude prekasno.

Visoki komesar UN za ljudska prava rekao je da će narednih dana uputiti pisma kompanijama koje razvijaju veštačku inteligenciju, pozivajući ih da odmah preduzmu mere kako bi smanjile rizike koji su pod njihovom kontrolom.

Prema njegovim rečima, najmanje što je potrebno jeste da se zemlje u kojima se razvija veštačka inteligencija i države uključene u njene lance snabdevanja okupe oko zajednički dogovorenih crvenih linija.

"Potrebna nam je nezavisna provera, kao i mnogo snažnija saradnja unutar industrije u oblasti bezbednosti", istakao je Tirk.

U Evropskoj uniji Zakon o veštačkoj inteligenciji (AI Act) predstavlja pravni okvir za regulisanje ove tehnologije.

Prema tom zakonu, sistemi koji predstavljaju visok rizik moraju da ispune stroge zahteve pre nego što mogu da budu plasirani na tržište EU, dok su načini upotrebe koji se smatraju neprihvatljivom pretnjom po bezbednost ili prava ljudi zabranjeni.

Zakon zabranjuje veštačku inteligenciju namenjenu manipulisanju ili iskorišćavanju ljudi, njihovo ocenjivanje na osnovu ponašanja, predviđanje da li će pojedinac počiniti krivično delo, kao i neselektivno prikupljanje fotografija radi izrade baza podataka za prepoznavanje lica.

Takođe su zabranjeni sistemi za prepoznavanje emocija na radnom mestu i u školama, pojedini oblici biometrijskog profilisanja, kao i većina oblika policijskog prepoznavanja lica u realnom vremenu na javnim mestima.

Zabrana AI-generisanih seksualnih sadržaja napravljenih bez pristanka, kao i materijala seksualnog zlostavljanja dece generisanih veštačkom inteligencijom, stupa na snagu u decembru 2026. godine.

(Telegraf.rs/Tanjug)