Upozorenje vrhunskog fizičara: Veštačkoj inteligenciji se ne smeju dati tri stvari
Ako se nastavi nekontrolisani razvoj veštačke inteligencije (AI), vođen kompeticijom među kompanijama, ako ne pauziramo kako bismo odredili smernice za njegov razvoj i neke regulacije, moglo bi da nam se dogodi da nas ona nadvlada i istisne kao što je Homo sapiens istisnuo neandertalce, upozorio je u nedavno objavljenom razgovoru fizičar i istraživač veštačke inteligencije Maks Tegmark (Max).
U podkastu Leksa Fridmana (Lex), informatičara i istraživača veštačke inteligencije na MIT, Maks Erik Tegmark, fizičar i istraživač objasnio je zašto je zabrinut sadašnjim načinom razvoja veštačke inteligencije i zašto je sa grupom naučnika pokrenuo otvoreno pismo kojim traže šestomesečni moratorijum na dalje unapređivanje sistema moćnijih nego što je GPT-4.
Preporučujemo
Čarls će na ceremoniji krunisanja nositi grimizni i ljubičasti ogrtač: Dizajn ima i skrivenu poruku
Kina uvodi nove mere da bi usporila demografski pad: Da li su neudate žene deo rešenja?
U pismu, koje kritikuje postojeći pristup u stilu - prvo izgradimo brod, a posle ćemo ga popravljati - i upozorava da važnu ulogu u razvoju AI-a vode čelnici kompanija koji nisu izabrani predstavnici ljudi, odnosno biračkog tela, već čelnici tehnoloških kompanija, autori postavljaju četiri pitanja:
- Trebamo li dopustiti mašinama da preplave naše informacione kanale propagandom i neistinom?
- Trebamo li automatizovati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?
- Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti i zameniti?
- Trebamo li rizikovati gubitak kontrole nad svojom civilizacijom?
Pismo je do sada potpisalo više od 27.500 ljudi, među kojima su istoričar i autor nekoliko bestselera kao što je Sapiens Yuval Noah Harari, suosnivač Applea Stiv Voznijak (Steve Wozniak), suosnivač Skypea Jan Talin (Jaan Tallinn) te brojni istraživači umetne inteligencije kao što su Stjuart Rasel (Stuart Russell), Jošua Benđio (Yoshua Bengio), Geri Markus (Gary Marcus) i Emad Mostak (Mostaque).
Teško je očekivati da bi pismo samo po sebi moglo zaustaviti ili usporiti kompanije poput Googlea i Microsofta, ali njegove poruke možda bi mogle dopreti do političara koji bi mogli nešto preduzeti u zakonodavnom smislu.
(Telegraf.rs)
Povezane vesti
Veštačka inteligencija već ima Ajnštajnov IQ, teška prognoza za 2055: "Sva upozorenja treba uzeti za ozbiljno"
Upozorenje! Ako vidite Lilu Savić, morate da znate ko je lepotica sa kojom imate posla
Sa ove razdaljine ljudsko oko jedva vidi obrise tela, a ovaj uređaj može da vidi svaku boru na vašem licu!
<% post.title %>
Vlada ove evrpske zemlje zabranila korišćenje novog megapopularnog kineskog proizvoda
Video: Policajac ga provalio za sekund: Bajker sakrio drogu na previše očigledno mesto
Telegraf.rs zadržava sva prava nad sadržajem. Za preuzimanje sadržaja pogledajte uputstva na stranici Uslovi korišćenja.
Komentari
Više sa weba
Priče sa Weba
Bosanac ušao u austrijsku javnu kuću, svi ostali zatečeni kad su videli šta nosi u rukama: "Kod nas je takav red"
DA LI OVO ZNAČI KRAJ VOŽNJE ZA 70-GODIŠNJAKE? Evropska unija planira strože medicinske provere: Menjaju se pravila u vezi sa dozvolom
Kada su otvorili grob, ostali su nemi usled prizora - bilo im je potrebno 700 sati da shvate šta su pronašli
Milutin
AI nije opasna (opasna je prejaka reč za AI) već su opasni ljudi koji je kreiraju i postavljaju zahteve. AI treba da bude u službi čovečanstva a ne privatnika i korporacija. Ne smeju joj se postavljati i tako " nevini" zahtevi kao što je reklama. Reklama sama po sebi je već psihološki uticaj na ljude koji uvek u sebi sadrži makar bezazlenu laž. Ali laž. A AI je kao pisaća mašina. Koju dirku pritisnete to slovo će biti otkucano. A slova sačinjavaju reči a reči mogu sačinjavati laži koje je čovek kreirao. Ako se ne varam, Isak Asimov je davno još napisao 3 zakona robotike. I to je osnova. Dogovor koji treba da se postigne je definisati prvi zakon robotike ili danas već ne robotike nego AI. Dakle, šta se smatra, osim fizičkog nanošenja štete čoveku, još pod pojmom da " ne AI ne sme da nanese štetu čoveku". To nije političko pitanje ili pitanje o kojem treba da odlučuju političari ili zakonodavac. Jer ako pogledamo svet oko sebe vidimo koliko čovek sam sebi nanosi štetu. Pod rukovodstvom političara. Dakle, kad je reč o AI, to treba definisati. Ali to nije rešenje problema. Jer problem je ČOVEK. Ne možemo očekivati od AI da ona nas uči ljudskosti. Kako biti čovek. To moramo sami. A AI ne sme biti u sukobu sa čovekom a možda i važnije ne sme biti u sukobu ni sa drugom AI. Čuvajmo AI. Ona je budućnost ČOVEKA.
Podelite komentar
Čika Velja
Tvorac svega u veštačkoj inteligenciji je...čovek!?!? Kako onda ta famozna inteligencija može nadmašiti svog tvorca? Ispada da je čovek ovim potezom napravio nešto što je i njemu samom nedostižno,i prevazilazi njega samog???
Podelite komentar