Google DeepMind istraživač je koautor rada koji tvrdi da će veštačka inteligencija istrebiti čovečanstvo

Prema novom radu, superinteligentna veštačka inteligencija će "verovatno" izazvati egzistencijalnu katastrofu za čovečanstvo

Nakon godina razvoja, veštačka inteligencija sada vozi automobile na javnim putevima, pravi procene koje menjaju život ljudima u popravnim ustanovama i stvara nagrađivanu umetnost.

Pitanje koje se već neko vreme "krčka" u umovima naučnika i običnih ljudi je da li bi superinteligentna veštačka inteligencija mogla da krene svojim putem i uništi čovečanstvo, a istraživači sa Univerziteta u Oksfordu i jedan istraživač povezan sa Google DeepMind projektom su sada zaključili da je to "verovatno" u novom istraživanju.

Preporučujemo

Rad, objavljen prošlog meseca u recenziranom časopisu AI Magazine, je interesantno štivo koje razmatra o tome kako bi veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo posmatrajući kako bi sistemi nagrađivanja mogli biti veštački konstruisani.

Da vam damo malo konteksta: najuspešniji modeli veštačke inteligencije danas su poznati kao GAN, ili Generativne Adversarial Networks. Imaju dvodelnu strukturu gde jedan deo programa pokušava da generiše sliku (ili rečenicu) od ulaznih podataka, a drugi deo ocenjuje njegov učinak.

Ono što novi naučni rad predlaže jeste da bi u nekom trenutku u budućnosti, napredni AI koji nadgleda neku važnu funkciju mogao biti podstaknut da smisli strategije varanja kako bi dobio nagradu na načine koji štete čovečanstvu.

"U uslovima koje smo identifikovali, naš zaključak je mnogo jači od zaključka bilo koje prethodne publikacije – egzistencijalna katastrofa nije samo moguća, već i verovatna", rekao je jedan od autora na Twitteru.