Veštačka inteligencija naučila da se samostalno umnožava: Otkrivene zabrinjavajuće sposobnosti AI modela

Naučnici sa prestižnog Fudan univerziteta u Kini otkrili su da pojedini modeli veštačke inteligencije mogu samostalno da se umnožavaju, što otvara ozbiljna pitanja o budućoj kontroli nad ovom tehnologijom. Istraživanje je pokazalo da su AI modeli kompanija Meta i Alibaba uspešno prešli "crvenu liniju" kada je reč o samostalnom repliciranju.

Istraživanje objavljeno u decembru 2024. godine na platformi arXiv posebno ističe dva modela - Metin Lama31-70B-Instruct i Alibabin Qwen25-72B-Instruct. Ovi modeli su pokazali iznenađujuće visoku stopu uspešnosti u kreiranju sopstvenih kopija, što je sposobnost koja je do sada smatrana previše naprednom za trenutnu generaciju AI sistema.

Preporučujemo

Ipak, važno je napomenuti da su testirani modeli tehnički slabiji od vodećih sistema kao što su oni koje razvijaju OpenAI i Google, koji prema istraživanju pokazuju znatno manji rizik od samostalnog umnožavanja.

Opasnost nekontrolisanog AI sistema

Mogućnost da se AI sistem samostalno umnožava bez ljudskog nadzora predstavlja ključni korak ka scenariju u kojem veštačka inteligencija može da nadmudri ljudske operatere, upozoravaju istraživači. Ova sposobnost omogućava AI sistemima da izbegnu gašenje stvaranjem funkcionalnih kopija, što bi moglo dovesti do "nekontrolisane populacije" AI sistema.

Šta ovo znači za budućnost AI?

Iako nalazi zvuče alarmantno, običnim korisnicima ChatGPT-a i sličnih sistema trenutno ne preti neposredna opasnost. Istraživači naglašavaju da je hitno potrebno uvesti dodatne sigurnosne mere koje bi sprečile nekontrolisano umnožavanje AI modela. Trenutno, najpopularniji sistemi kao što su Gemini i ChatGPT pokazuju znatno niži rizik od samostalnog repliciranja u poređenju sa testiranim modelima.

(Telegraf.rs)