Upozorenje vrhunskog fizičara: Veštačkoj inteligenciji se ne smeju dati tri stvari
Ako se nastavi nekontrolisani razvoj veštačke inteligencije (AI), vođen kompeticijom među kompanijama, ako ne pauziramo kako bismo odredili smernice za njegov razvoj i neke regulacije, moglo bi da nam se dogodi da nas ona nadvlada i istisne kao što je Homo sapiens istisnuo neandertalce, upozorio je u nedavno objavljenom razgovoru fizičar i istraživač veštačke inteligencije Maks Tegmark (Max).
U podkastu Leksa Fridmana (Lex), informatičara i istraživača veštačke inteligencije na MIT, Maks Erik Tegmark, fizičar i istraživač objasnio je zašto je zabrinut sadašnjim načinom razvoja veštačke inteligencije i zašto je sa grupom naučnika pokrenuo otvoreno pismo kojim traže šestomesečni moratorijum na dalje unapređivanje sistema moćnijih nego što je GPT-4.
Preporučujemo
Čarls će na ceremoniji krunisanja nositi grimizni i ljubičasti ogrtač: Dizajn ima i skrivenu poruku
Kina uvodi nove mere da bi usporila demografski pad: Da li su neudate žene deo rešenja?
U pismu, koje kritikuje postojeći pristup u stilu - prvo izgradimo brod, a posle ćemo ga popravljati - i upozorava da važnu ulogu u razvoju AI-a vode čelnici kompanija koji nisu izabrani predstavnici ljudi, odnosno biračkog tela, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:
- Trebamo li dopustiti mašinama da preplave naše informacione kanale propagandom i neistinom?
- Trebamo li automatizovati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?
- Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti i zameniti?
- Trebamo li rizikovati gubitak kontrole nad svojom civilizacijom?
Pismo je do sada potpisalo više od 27.500 ljudi, među kojima su istoričar i autor nekoliko bestselera kao što je Sapiens Yuval Noah Harari, suosnivač Applea Stiv Voznijak (Steve Wozniak), suosnivač Skypea Jan Talin (Jaan Tallinn) te brojni istraživači umetne inteligencije kao što su Stjuart Rasel (Stuart Russell), Jošua Benđio (Yoshua Bengio), Geri Markus (Gary Marcus) i Emad Mostak (Mostaque).
Teško je očekivati da bi pismo samo po sebi moglo zaustaviti ili usporiti kompanije poput Googlea i Microsofta, ali njegove poruke možda bi mogle dopreti do političara koji bi mogli nešto preduzeti u zakonodavnom smislu.
(Telegraf.rs)
Povezane vesti
Još jedna tehnološka kompanija pravi robote za pomoć u kući: Giganti su čuli malog čoveka
Mask najavio Grok 3: Stiže "najpametnija veštačka inteligencija na svetu"
Meta otpušta, radnici progovorili o dešavanju iza kulisa: "Nije tačno da kompanija seče mrtva drva "
<% post.title %>
Kakva je budućnost veštačke inteligencije u medicini?
Video: Policajac ga provalio za sekund: Bajker sakrio drogu na previše očigledno mesto
Telegraf.rs zadržava sva prava nad sadržajem. Za preuzimanje sadržaja pogledajte uputstva na stranici Uslovi korišćenja.
Komentari
Više sa weba
Priče sa Weba
Imate li ovaj stari telefon kod kuće? Stručnjaci kažu da vredi više od bitkoina ili stana u Beogradu
Stavite lovorov list u veš mašinu i gledajte čudo - za ovim trikom su poludele domaćice
Ispovest majke kojoj su snaje unele razdor u porodicu: "Ne žele da me vide, ali novac od iznajmljivanja moje kuće troše bez problema"
Milutin
AI nije opasna (opasna je prejaka reč za AI) već su opasni ljudi koji je kreiraju i postavljaju zahteve. AI treba da bude u službi čovečanstva a ne privatnika i korporacija. Ne smeju joj se postavljati i tako " nevini" zahtevi kao što je reklama. Reklama sama po sebi je već psihološki uticaj na ljude koji uvek u sebi sadrži makar bezazlenu laž. Ali laž. A AI je kao pisaća mašina. Koju dirku pritisnete to slovo će biti otkucano. A slova sačinjavaju reči a reči mogu sačinjavati laži koje je čovek kreirao. Ako se ne varam, Isak Asimov je davno još napisao 3 zakona robotike. I to je osnova. Dogovor koji treba da se postigne je definisati prvi zakon robotike ili danas već ne robotike nego AI. Dakle, šta se smatra, osim fizičkog nanošenja štete čoveku, još pod pojmom da " ne AI ne sme da nanese štetu čoveku". To nije političko pitanje ili pitanje o kojem treba da odlučuju političari ili zakonodavac. Jer ako pogledamo svet oko sebe vidimo koliko čovek sam sebi nanosi štetu. Pod rukovodstvom političara. Dakle, kad je reč o AI, to treba definisati. Ali to nije rešenje problema. Jer problem je ČOVEK. Ne možemo očekivati od AI da ona nas uči ljudskosti. Kako biti čovek. To moramo sami. A AI ne sme biti u sukobu sa čovekom a možda i važnije ne sme biti u sukobu ni sa drugom AI. Čuvajmo AI. Ona je budućnost ČOVEKA.
Podelite komentar
Čika Velja
Tvorac svega u veštačkoj inteligenciji je...čovek!?!? Kako onda ta famozna inteligencija može nadmašiti svog tvorca? Ispada da je čovek ovim potezom napravio nešto što je i njemu samom nedostižno,i prevazilazi njega samog???
Podelite komentar