Kontroverzna odluka OpenAI-a: Rasformiran tim koji je trebalo da se pobrine da AI ne postane pretnja

OpenAI je rasformirao svoj tim za "superusaglašenost", koji je trebalo da osigura da opšta veštačka inteligencija (AGI) ne postane pretnja za čovečanstvo.

U industriji veštačke inteligencije, "usaglašenost" se odnosi na napore da se osigura da AI programi dele iste ciljeve kao i ljudi koji ih koriste. "Superusaglašenost" se obično odnosi na osiguranje da najnapredniji AGI projekti ne postanu pretnja svojim stvaraocima.

Preporučujemo

Ova promena dolazi u trenutku kada se kompanija sve više ponaša kao startap iz Silicijumske doline, fokusirajući se na brzo izbacivanje novih proizvoda. OpenAI je saopštio da će se rad koji je obavljao tim za superusaglašenost sada biti integrisan u istraživačke timove kompanije, promena koja je započela pre nekoliko nedelja.

Ilija Sutskever, suosnivač OpenAI-a i vođa tima za superusaglašenost od njegovog osnivanja prošle godine, napustio je kompaniju prošle nedelje. Sa njim je otišao i drugi vođa tima, Jan Lejke, koji je oštro kritikovao kompaniju pri odlasku.

Lejke je u petak na mreži X izjavio da su "tokom proteklih godina kultura bezbednosti i procesi pali u drugi plan zbog blještavih proizvoda." On je kritikovao OpenAI zbog nedovoljnog ulaganja resursa u "pronalaženje načina kako da se usmere i kontrolišu AI sistemi mnogo pametniji od nas."

Generalni direktor OpenAI-a, Sem Altman, priznao je da kompanija ima još mnogo posla na polju bezbednosti, dodajući da će uskoro objaviti duži post na tu temu. Suosnivač i predsednik OpenAI-a, Greg Brokman, odgovorio je na Lejkove kritike rekavši da je kompanija spremna da odloži puštanje novih proizvoda zbog bezbednosnih zabrinutosti.

Brokman je naglasio da "pronalaženje načina kako da se nova tehnologija učini bezbednom nije lako", dodajući da veruju u isporuku velikih prednosti dok rade na ublažavanju ozbiljnih rizika.

Ova odluka OpenAI-a nije usamljen slučaj u AI industriji. Kompanije kao što su Google i Meta takođe su reorganizovale svoje timove za bezbednost i odgovornost, tvrdeći da je bolje da se ovaj rad obavlja širom kompanije, a ne u izolovanim timovima.

Kritičari smatraju da je posvećen tim najbolji način da se osigura da bezbednosni rad dobije potrebne resurse i mesto za odlučivanje.

U AI industriji trenutno dominiraju oni koji žele da ubrzaju razvoj, dok se oni koji vide egzistencijalne opasnosti povlače.