Kineski gigant lansirao moćni AI video model koji je za samo 24 sata postao fabrika pornografije

Novi model veštačke inteligencije kineskog tehnološkog giganta Alibaba pokrenuo je zabrinjavajući trend samo dan nakon objavljivanja. Wan 2.1 softver, koji je kompanija učinila dostupnim na Githubu, već se koristi za kreiranje neprimerenog sadržaja.

Alibaba je u utorak predstavila svoj najnoviji "otvoreni" model veštačke inteligencije za generisanje video sadržaja pod nazivom Wan 2.1. Kompanija je softver podelila na Github platformi, što znači da svako sa odgovarajućim tehničkim znanjem i hardverom može slobodno da ga koristi i modifikuje prema svojim potrebama.

Preporučujemo

Međutim, za manje od 24 sata nakon objavljivanja, određene internet zajednice su već počele da zloupotrebljavaju ovaj model za kreiranje neprimerenih sadržaja. Korisnici koji se bave ovakvim aktivnostima već su počeli da dele kratke video zapise generisane upravo pomoću Alibaba softvera.

Na raznim platformama, uključujući i Telegram kanale, korisnici koji se bave kreiranjem neovlašćenih sadržaja već diskutuju o mogućnostima ovog novog modela, ističući njegovu naprednost u poređenju sa drugim sličnim alatima.

Dvostruki mač otvorenih AI modela

Problem sa otvorenim AI modelima leži u njihovoj dostupnosti - s jedne strane, oni demokratizuju upotrebu moćnih AI alata i omogućavaju široj zajednici da ih koristi za kreativne i korisne svrhe, dok s druge strane, rani korisnici često pronalaze načine da ih iskoriste za neprimerene sadržaje.

Jedan korisnik je na Telegram kanalu komentarisao: "Hunyuan je izašao kada? U decembru?" govoreći o drugom AI generatoru videa koji je Tencent razvio i koji je takođe popularan u tim krugovima. "Sada imamo bolji Text2Video model koji može da se nosi sa komplikovanijim pokretima. Ovaj model je izašao JUČE."

Zabrinjavajuća brzina kojom se novi AI modeli zloupotrebljavaju postavlja ozbiljna pitanja o neophodnosti strožih regulativa i etičkih smernica u oblasti veštačke inteligencije. Kompanije moraju da balansiraju između inovacije i odgovornosti, posebno kada su u pitanju alati koji mogu da generišu realističan video sadržaj.

Potreba za etičkim okvirima

Stručnjaci u oblasti veštačke inteligencije sve češće ističu potrebu za implementacijom robusnih zaštitnih mera pre objavljivanja ovakvih modela. Balans između otvorenosti tehnologije i sprečavanja zloupotrebe predstavlja jedan od najvećih izazova sa kojima se suočava industrija veštačke inteligencije danas.

(Telegraf.rs)