Aplikacije koje mogu da "skinu odeću" sa bilo čije fotografije postaju dostupnije: Ova zemlja traži zabranu

Komesarka za decu u Engleskoj zahteva potpunu zabranu takozvanih "nudifikacionih" aplikacija koje mogu generisati eksplicitne slike dece. Ove AI alatke, koje postaju sve dostupnije na društvenim mrežama i pretraživačima, predstavljaju ozbiljnu pretnju za bezbednost najmlađih.

Napredak u tehnologiji veštačke inteligencije omogućio je pojavu softvera koji mogu da "skinu odeću" sa fotografija stvarnih osoba, stvore sugestivne pokrete ili montiraju lice na golo telo. Rezultati često deluju izuzetno realistično i teško ih je razlikovati od stvarnih fotografija.

Preporučujemo

AI alati stvaraju slike učeći iz postojećih baza podataka. Smatra se da su "nudifikacione" aplikacije uglavnom trenirane na ogromnim bazama fotografija žena, što objašnjava zašto najefikasnije deluju na ženskim telima. Procenjuje se da čak 99% eksplicitnih deepfake sadržaja na internetu prikazuje žene i devojčice.

Iako je posedovanje AI-generisanog seksualnog sadržaja koji prikazuje decu nezakonito, paradoksalno je da sami AI modeli koji stvaraju takve slike nisu ilegalni.

Kako bi zabrana funkcionisala i da li može biti efikasna?

Komesarka za decu traži od britanske vlade da donese zakon kojim bi se zabranile AI alatke koje su dizajnirane ili reklamirane kao "nudifikacione" usluge. Ovo bi se moglo postići kroz različite pravne mehanizme.

Jedna od mogućnosti je izmena zakona o bezbednosti proizvoda i metrologiji, koja bi osigurala da pružaoci generativnih AI alata moraju sprovesti procenu rizika za nezakonite aktivnosti i preduzeti razumne korake da eliminišu te rizike iz proizvoda.

To bi značilo da alati razvijeni pomoću generativnih AI modela moraju proći procenu rizika za ilegalne aktivnosti pre nego što postanu dostupni u Ujedinjenom Kraljevstvu. Nudifikacione aplikacije u svom trenutnom obliku ne mogu se smatrati bezbednim protiv nezakonitih aktivnosti i neće dobiti sertifikat za dostupnost u UK.

Druga opcija je da vlada uvede poseban zakon o veštačkoj inteligenciji koji bi odgovornost za sprečavanje "nudifikacije" dece prebacio na pružaoce generativnih AI modela.

Tehnološke kompanije bi mogle biti zakonski obavezane da testiraju svoje proizvode na mogućnost zloupotrebe pre lansiranja na britansko tržište i snosile bi odgovornost ako se njihovi modeli koriste u takve svrhe.

Zakon o onlajn bezbednosti i moguća rešenja problema

Komesarka za decu ne veruje da trenutni Zakon o onlajn bezbednosti sadrži odredbe potrebne za potpunu zaštitu dece. Međutim, naglašava da se rizik može delimično ublažiti kroz implementaciju zakona od strane Ofcoma, britanskog regulatora za komunikacije.

Kao pružaoci seksualno eksplicitnog materijala, nudifikacione usluge spadaju pod domet tog zakona. One su obavezne da verifikuju da korisnici imaju više od 18 godina pre nego što im dozvole pristup sadržaju. Međutim, ovo ne bi sprečilo odrasle da prave slike dece.

Izveštaj takođe predlaže da se u školske programe uključi edukacija o deepfake tehnologijama, i traži od vlade da pruži veću podršku deci za prijavljivanje intimnih slika – uključujući i lažne koje su stvorene pomoću veštačke inteligencije – koje su podeljene na internetu.

Stručnjaci upozoravaju da bi kritičari zabrane mogli osporiti ovakav pristup pozivanjem na internet slobode, a samim razvojem veštačke inteligencije moglo bi postati još teže razlikovati "stvarni" od "AI" generisanog materijala.

(Telegraf.rs/The Guardian)