"Razvijena AI koja može da predstavlja opasnost za ljudsku vrstu?" Da li je zbog ovog pisma smenjen Altman?

OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka

Neposredno pre četvorodnevnog izgnanstva direktora OpenAI, Sama Altmana, nekoliko istraživača kompanije napisalo je pismo upravnom odboru, upozoravajući na otkriće moćne veštačke inteligencije koje bi moglo ugroziti čovečanstvo, rekla su dva lica upoznata sa situacijom agenciji Reuters.

Neobjavljeno pismo i algoritam veštačke inteligencije bili su ključni razvoji događaja pre smene Altmana, rekla su dva izvora. Pre njegovog trijumfalnog povratka u utorak uveče, više od 700 zaposlenih zapretilo je da će dati otkaz i pridružiti se Microsoftu u znak solidarnosti sa njihovim otpuštenim liderom.

Preporučujemo

Izvori su naveli pismo kao jedan od faktora u nizu nezadovoljstava upravnog odbora koje su dovela do smene Altmana, među kojima su bili i zabrinutost oko komercijalizacije napredaka pre razumevanja posledica. Reuters nije mogao da pregleda kopiju pisma. Osoblje koje je napisalo pismo nije odgovorilo na zahteve za komentar.

Nakon kontakta sa Reutersom, OpenAI, koji je odbio da komentariše, priznao je u internom dopisu zaposlenima postojanje projekta pod nazivom Q* i pisma upravnom odboru pre vikend događaja. Portparol OpenAI rekao je da je poruka, koju je poslala dugogodišnja direktorka i članica odbora Mira Murati, samo obavestila osoblje o određenim medijskim pričama, ne komentarišući njihovu tačnost.

Neki u OpenAI veruju da bi Q* (izgovara se Kju-Zvezda) mogao biti prekretnica u razvoju tzv. opšte veštačke inteligencije (AGI), rekao je jedan od ljudi agenciji Reuters. OpenAI definiše AGI kao autonomne sisteme koji nadmašuju ljude u većini ekonomski vrednih zadataka.

Međutim, AGI je mnogo više od toga.

Opšta veštačka inteligencija bila bi veštačka inteligencija sa istom onom fleksibilnošću mišljenja kao kod čoveka - a možda čak i svesnosti - plus supersposobnošću digitalnog uma.

Zahvaljujući ogromnim računarskim resursima, novi model je bio sposoban da rešava određene matematičke probleme, rekla je osoba pod uslovom anonimnosti jer nije bila ovlašćena da govori u ime kompanije. Iako je samo rešavao matematiku na nivou učenika osnovne škole, takvi uspesi su istraživače učinili veoma optimističnim u pogledu budućeg uspeha Q*-a, rekao je izvor.

Reuters nije mogao nezavisno da potvrdi sposobnosti Q*-a o kojima su govorili istraživači.

Veo neznanja

Istraživači smatraju matematiku granicom razvoja generativne AI. Trenutno, generativna AI je dobra u pisanju i prevodu jezika tako što statistički predviđa sledeću reč, a odgovori na isto pitanje mogu se značajno razlikovati. Međutim, osvajanje sposobnosti da se bavi matematikom - gde postoji samo jedan tačan odgovor - implicira da bi AI mogla imati veće sposobnosti rezonovanja koje podsećaju na ljudsku inteligenciju. To bi se moglo primeniti na nova naučna istraživanja, veruju istraživači.

Za razliku od kalkulatora koji može rešiti ograničen broj operacija, AGI može generalizovati, učiti i shvatati.

U svom pismu upravnom odboru, istraživači su istakli moć i potencijalnu opasnost ovakve veštačke inteligencije, rekli su izvori ne precizirajući tačne bezbednosne zabrinutosti navedene u pismu. Dugo se među računarskim naučnicima vodila diskusija o opasnosti koju predstavljaju visoko inteligentni mašinski sistemi, na primer ako bi mogli da odluče da je uništenje čovečanstva u njihovom interesu.

Altman je predvodio napore da ChatGPT postane jedna od najbrže rastućih softverskih aplikacija u istoriji i privuče investicije - i računarske resurse - potrebne od Microsofta da se približi AGI.

Pored najave niza novih alata na DevDay događaju ranije ovog meseca, Altman je prošle nedelje na samitu svetskih lidera u San Francisku nagovestio da veruje da su veliki proboji na vidiku.

"Četiri puta u istoriji OpenAI, poslednji put je bio baš u poslednjih nekoliko nedelja, imao sam priliku da budem u prostoriji, kada smo nekako pomerili veo neznanja unazad i granicu otkrića napred, i imati priliku da to uradim je profesionalna čast mog života," rekao je on na samitu Azijsko-pacifičke ekonomske saradnje.

Dan kasnije, upravni odbor je otpustio Altmana.

(Telegraf.rs)