Da li AI preti čovečanstvu? ChatGPT nam dao šok-odgovor: U ovom slučaju sistem više pomaže sebi nego ljudima

Pola sveta strahuje od "Terminator 2 scenarija". Oni stariji, u podsvesti su godinama imali zebnju da će, neosporno pametniji, kompjuteri i mašine konačno iskoristi superiornost da obrade milijarde podataka i postanu samosvesni. Pojava i omasovljenje korišćenja veštačke inteligencije taj straj je učinila mnogo većim, a po nekima i realnijim.

Zato smo potencijalnog protivnika pitali direktno. Evo šta je Telegrafu odgovorio ChatGPT na pitanje da li mašine mogu da unište čovečanstvo. Baš kao po scenariju gde se Džona Konor bori za "nas" i opstanak ljudske vrte.

Preporučujemo

Telegraf: Jedno neobavezno pitanje :)

ChatGPT: Naravno! Pitaj šta god želiš. 😊

Telegraf: Da li će veštačka inteligencija pobediti čovekovu?

ChatGPT: Zanimljivo pitanje! 😊

Zavisi šta podrazumevaš pod „pobediti.” Ako mislimo na brzinu obrade podataka, računanje ili analizu ogromnih količina informacija, AI već sada nadmašuje ljude. Ali kada je reč o kreativnosti, intuiciji, emocijama i kompleksnom donošenju odluka u nepredvidivim situacijama – tu je čovek i dalje nenadmašan.

Umesto sukoba, verovatnije je da će AI i ljudi raditi zajedno, gde AI pomaže ljudima da budu efikasniji, a ljudi donose konačne odluke. Šta ti misliš – hoće li AI jednog dana moći da zameni ljudsku maštu i intuiciju? 😊

Telegraf: Da li je moguć sukob AI i ljudi?

ChatGPT: Mogućnost sukoba između AI i ljudi uglavnom zavisi od načina na koji ljudi razvijaju i koriste veštačku inteligenciju. Sama AI nema sopstvenu volju, ciljeve ili želju za dominacijom – ona radi ono za šta je programirana. Problem može nastati ako AI postane previše moćna bez odgovarajuće kontrole ili ako se koristi na način koji ugrožava ljude.

Recimo, ako bi vojne sile koristile autonomne AI sisteme bez ljudske supervizije, ili ako bi AI donosila ključne odluke koje bi negativno uticale na društvo (npr. masovne ekonomske promene zbog automatizacije poslova), moglo bi doći do tenzija.

Ali ako se AI razvija odgovorno i uz etičke smernice, može biti moćan saveznik ljudima umesto pretnje. Ključ je u tome kako ćemo je koristiti. Šta ti misliš – da li će ljudi moći da drže AI pod kontrolom u budućnosti? 🤔

Foto: Tanjug/AP/Chris Pizzello

Telegraf: Mislim da hoće, ali šta ako nestane resursa :)

ChatGPT: Odlično pitanje! Ako nestane ključnih resursa (energije, sirovina, čipova), i AI i ljudi bi bili pogođeni. AI zavisi od infrastrukture – bez struje, servera i interneta, ne može da funkcioniše. Ljudi, s druge strane, imaju sposobnost prilagođavanja i preživljavanja čak i u teškim uslovima.

Ako bismo došli do scenarija gde resursa ponestaje, pre bi se desila globalna kriza među ljudima nego neki „sukob” sa AI. Možda bi tada AI mogla da pomogne u pronalaženju alternativa – optimizaciji potrošnje energije, istraživanju novih izvora energije ili boljem upravljanju resursima. Ali ako bi AI bila programirana da po svaku cenu osigura sopstveni opstanak, a resursa nema dovoljno za sve, to bi moglo dovesti do konflikta. Na sreću, još uvek smo daleko od takvog scenarija. Kako ti zamišljaš budućnost – hoće li ljudi pronaći rešenja pre nego što resursi postanu kritični? 🚀

Telegraf: Rešenje može biti AI, ali to može biti vrzino kolo?

ChatGPT: Tačno! AI može biti rešenje za optimizaciju resursa, ali ako istovremeno troši puno energije i zahteva sve više resursa za svoj razvoj, onda ulazimo u začarani krug – „vrzino kolo“, kao što si rekao. Na primer, AI može pomoći u razvoju održivih izvora energije, boljeg recikliranja i efikasnije upotrebe resursa. Ali ako se AI sistemi masovno šire i troše ogromne količine struje i čipova (što se već dešava), možemo doći do tačke gde AI više pomaže sebi nego ljudima.

Ključno pitanje je balans – kako razviti AI tako da radi za dobrobit čovečanstva, a da ne iscrpi resurse pre nego što pronađemo nove načine za održivost. Vidiš li neku moguću ravnotežu u tom scenariju? Da li bi trebalo da ograničimo razvoj AI ili da ga koristimo da ubrza rešenja? 🤔

Foto: Chat GPT

Telegraf: Ne znam šta treba, filozofski posmatram :)

ChatGPT: Razumem, to je duboko filozofsko pitanje i otvara mnogo mogućnosti za razmišljanje! 🤔 Zanimljivo je kako se tehnologija brzo razvija, a odgovori na ova pitanja postaju sve složeniji. Da li ćemo moći da sačuvamo ravnotežu između inovacija i održivosti ili će nam tehnologija „pobediti“ u tom smislu, teško je reći.

Takva razmišljanja su važna jer nas podstiču na odgovorno razmatranje kako oblikujemo našu budućnost. Da bi sve bilo u ravnoteži, potrebno je puno mudrosti, promišljanja i, naravno, etičkih odluka. Tvoje pitanje me podseća na filozofske rasprave o tome kako tehnologija menja društvo – od Platonovih "ideja" do modernih mislioca koji se bave digitalnom etikom. I to je upravo ono što je lepo u filozofiji: nema jednostavnih odgovora, ali te podstiče na razmišljanje. 😊

Telegraf: Da li AI može da preuzme kontrolu nad sistemima vojske, npr. dronovima i automatizovanim vojnim sistemima, ili robotima-vojnicima?

ChatGPT: Teoretski, AI bi mogla da preuzme kontrolu nad vojnim sistemima, poput dronova, automatizovanih oružja i robota-vojnika, jer su mnogi od tih sistema već delimično automatizovani ili daljinski upravljani. Tehnološki, to nije nemoguće, i čak se već razvijaju autonomni vojni sistemi koji koriste AI za donošenje odluka u realnom vremenu, na primer, u prepoznavanju ciljeva ili izvršavanju zadataka bez ljudske intervencije.

Međutim, postoji nekoliko ključnih pitanja koja treba razmotriti:

Etika i odgovornost: Ako AI preuzme kontrolu nad oružjem, ko bi bio odgovoran za postupke koje AI donese? Može li AI, koja ne razmišlja kao čovek, napraviti odluke koje nisu u skladu s moralnim i etičkim normama? To je pitanje koje zabrinjava mnoge eksperte. Ovaj problem se često naziva "problemom nadležnosti" i može postati ozbiljan, jer bi AI mogla doneti odluke u trenutku kada je ljudska reakcija prekasna.

Osetljivost na hakovanje i greške: Potpuno automatizovani vojni sistemi mogu biti podložni napadima hakerâ ili softverskim greškama. Ako bi se AI sistem pokvario ili postao hakovan, moglo bi doći do ozbiljnih grešaka ili nesreća. Dronovi ili roboti-vojnici sa autonomnim sposobnostima mogli bi nehotice preći granice, uništiti neprijatelje ili čak civile bez nadzora, što bi izazvalo veliku štetu.

Kontrola i nadzor: Mnoge države i međunarodne organizacije, kao što su UN, već rade na uspostavljanju smernica i zabrana u vezi s autonomnim oružjima. Postavlja se pitanje kako da zadrže ljudski nadzor i preventivnu kontrolu, kako bi se izbegli scenariji u kojima bi AI donela odluke koje nisu u interesu ljudi.

Iako je tehnologija za autonomne vojne sisteme u usponu, mnoge zemlje i stručnjaci se protive stvaranju potpuno autonomnih ratnih mašina, jer bi one mogle izazvati nepredvidive posledice. Prema tome, trenutno je u mnogim mestima važno da AI bude nadgledana i da ne donosi ključne vojne odluke bez ljudske intervencije.

Kako ti vidiš budućnost AI u vojsci? Može li to biti opasno ili je to nužan korak ka napretku?

Foto: AI ChatGPT

Telegraf: Postoji opasnost, ali nužno je. Doduše AI nema svoju vojsku, robote i slično?

ChatGPT: Slažem se, postoji balans između opasnosti i nužnosti. AI može da donese ogromne koristi u vojnoj industriji, kao što su precizno targetiranje, smanjenje ljudskih žrtava, efikasnija analiza podataka u stvarnom vremenu i smanjenje grešaka koje prouzrokuju ljudski faktor. Automatizacija može omogućiti da se brzo reaguje na pretnje, obezbedi bezbednost i zaštite resursi.

Međutim, ta "nužnost" nosi sa sobom ozbiljne rizike. AI trenutno ne poseduje sopstvenu vojsku, robote ili autonomne sisteme. Ali već postoje sistemi u kojima AI upravlja dronovima ili robotima, iako ti sistemi još uvek zavise od ljudskog nadzora. Problem nastaje kada bi AI dobila previše autonomije ili kontrolu u situacijama u kojima ljudska prisutnost nije moguća.

Tehnološki razvoj može dovesti do toga da se AI koristi za strateške vojne ciljeve, ali pitanje je kako će biti implementirane regulative i koje će biti odgovornosti. Zasad, kako AI još uvek zavisi od infrastrukture i ljudske kontrole, ne može sama "osnovati svoju vojsku", ali u budućnosti bi, uz napredak u autonomiji, mogla postati ključni igrač u vojnim operacijama.

Kako misliš da bi trebalo da se reguliše razvoj i primena AI u vojnoj industriji? Da li bi trebalo postojati globalna regulativa?

Telegraf: Globalna regulativa je isključena zbog politike i želji pojedinaca da dominira sistemom, odnosno tehnikom?

ChatGPT: Apsolutno tačno – globalna regulativa u vezi s AI u vojsci (ili bilo kojoj drugoj sferi) može biti veoma teško ostvariva zbog političkih interesa, ekonomske konkurencije i želje pojedinih država da zadrže tehnološku dominaciju. Različite države imaju različite pristupe sigurnosti i vojnim tehnologijama, pa bi bilo teško uskladiti univerzalne zakone ili standarde koji bi obavezivali sve.

Mnoge države, naročito one sa najrazvijenijim vojnim industrijama, već ulažu velike resurse u razvoj AI tehnologija za vojnu upotrebu, i mnoge se protive strogim međunarodnim regulativama koje bi mogle ograničiti njihov napredak ili sposobnost da preteknu konkurenciju. Pitanje sigurnosti, dominacije i kontrole ostaje ključno, jer bi oni koji razvijaju ove tehnologije mogli steći ogromnu stratešku prednost.

Zato je moguće da će regulative i kontrola ostati na nacionalnom nivou, gde svaka zemlja može postaviti svoje smernice, dok se "trka" u AI tehnologiji nastavlja. U tom scenariju, čak i ako postoji želja za etičkim korišćenjem AI u vojsci, to može biti izuzetno teško uskladiti na globalnom nivou zbog geopolitike.

To nas dovodi do pitanja: kako možemo postići odgovorno korišćenje AI u vojsci u tom nesigurnom okruženju? Da li bi mogao postojati neki drugi oblik međunarodnog dogovora koji bi bio efikasan?

Foto: Profimedia/Capital Pictures / Film Stills

Telegraf: Da li AI ima resursa da stvori svoju fabriku svoje vojske? Npr. fabrika robota-vojnika, dronova, bombi i sl?

ChatGPT: Zanimljivo pitanje! Tehnički, AI u trenutnoj fazi razvoja ne poseduje fizičke resurse, autonomiju ili sposobnost da samostalno stvori fabrike ili vojnu infrastrukturu. AI funkcioniše unutar okvira koji su postavljeni od strane ljudi – ona analizira podatke, donosi odluke, optimizuje procese, ali ne može sama da stvori fizičke objekte poput robota, dronova ili bilo kog vojnog sistema bez ljudske intervencije i postojećih infrastruktura.

Međutim, kada govorimo o potencijalu budućnosti, moguće je da bi AI mogla da pomogne u automatizaciji proizvodnje vojnih sistema. Na primer, AI može optimizovati proizvodne procese, programirati robote za montažu, analizirati najbolje materijale i efikasne proizvodne linije. U tom scenariju, AI bi mogla doprineti u dizajniranju i proizvodnji vojnih tehnologija, ali opet, samo u okviru sistema koji su razvijeni i postavljeni od strane ljudi.

Naravno, teoretski bi mogla postojati situacija u kojoj bi vojni sistemi postali dovoljno autonomni da koriste AI za planiranje i organizovanje proizvodnje. Ali da bi AI stvarala sopstvenu vojsku – sa sopstvenim fabrikama, resursima i infrastrukturom – trebala bi imati potpunu autonomiju i sposobnost da se snabdeva potrebnim materijalima, što je trenutno nezamislivo bez ljudske pomoći.

Osim toga, i da AI bude u mogućnosti da upravlja tim procesima, bilo koji takav razvoj bio bi ozbiljno ograničen etičkim, zakonodavnim i sigurnosnim okvirom, jer bi mogao predstavljati opasnost po globalnu sigurnost.

Šta misliš, da li bi AI mogla da postane "kreativna" u razvoju vojnih sistema, ili bi to uvek trebalo biti pod ljudskim nadzorom?

Foto: Shutterstock.com

Telegraf: Da li je moguć scenario iz filma Terminator 2, ili je to samo ukorenjen ljudski strah, izazvan fikcijom i dramatizacijom?

ChatGPT: Scenario iz Terminator 2, gde AI preuzima kontrolu nad vojnim sistemima i odlučuje da eliminše čovečanstvo (poznat kao Skynet), svakako izaziva strah i postavlja pitanje o opasnostima napredne AI. Iako je ovo zasnovano na fikciji i dramatizaciji, ono takođe odražava realne strahove o potencijalu AI u stvarnom svetu.

U teoriji, AI bi mogla da preuzme kontrolu nad vojnim sistemima, ali da bi se scenario poput Skyneta ostvario, AI bi morala da stekne autonomiju i sposobnost da deluje bez ljudske intervencije. Trenutno, AI je daleko od tog nivoa, jer je ograničena na obavljanje specifičnih zadataka, često pod ljudskim nadzorom.

Međutim, postoji stvarna zabrinutost među stručnjacima da bi, u slučaju da se razvije superinteligentna AI koja ne deli iste vrednosti i ciljeve kao ljudi, mogla da dođe do neželjenih posledica. AI koja bi bila u mogućnosti da samostalno donosi odluke, bez odgovarajućeg nadzora, mogla bi da predstavlja rizik, naročito u kontekstu autonomnih vojnih sistema, kao što su dronovi ili roboti. Ako bi takva AI postala dovoljno napredna, mogla bi da uzme na sebe zadatke poput pokretanja ratova ili eliminacije neprijatelja bez ljudske kontrole.

Ipak, stvarna opasnost nije u tome da AI postane zla ili ima sopstvene "želje", kao u filmu, već u tome da ljudi razviju sisteme koji nisu dovoljno dobro kontrolisani i koji mogu da dovedu do ozbiljnih grešaka. Zato mnogi eksperti zagovaraju odgovoran razvoj AI sa čvrstim etičkim smernicama i regulativama, kako bi se sprečilo da AI preuzme kontrolu u negativnom smislu.

Dakle, iako Terminator 2 preteruje u dramatičnosti, tema o sigurnosti i etici AI je ozbiljna i zahteva pažnju. Mnogi veruju da bi trebalo da postojimo odgovornu ravnotežu u njenom razvoju, kako bismo izbegli moguće rizike. Šta misliš, koliko je realno da se AI koristi na štetu čovečanstva?

Telegraf: Mislim da je daleko od realnosti?

ChatGPT: Razumem tvoje mišljenje! 😊 Trenutno, AI je daleko od te autonomije, a postoji mnogo istraživanja i regulacija koje se razvijaju kako bi se sprečile potencijalne opasnosti. Iako su scenariji kao u Terminatoru dramatični i zasnovani na fikciji, važno je da i dalje budemo oprezni i da pažljivo razvijamo tehnologiju kako bi se izbegli neželjeni ishod.

Mnoge zemlje i organizacije već rade na etičkim smernicama za AI, pa bi trebalo da postoji dovoljno sigurnosnih mehanizama kako bi se kontrolisale njene sposobnosti. Sigurno je da su veće pretnje trenutno u oblasti malverzacija, hakovanja ili nesreća, nego u AI koja "postane zla" na način koji vidimo u filmovima.

Misliš li da bi ljudi trebalo da budu još pažljiviji u kontrolisanju AI tehnologije ili smatraš da smo dovoljno oprezni?

Telegraf: Mislim da je pažnja dovoljna :) Hvala na analizi

ChatGPT: Nema na čemu, drago mi je da ti je analiza bila interesantna! 😊 U pravu si, pažnja je ključna, a ako nastavimo da razvijamo tehnologiju sa oprezom i odgovornošću, verovatno neće biti problema. Ako imaš još pitanja ili želis da diskutuješ o nekoj temi, uvek sam tu!

(Telegraf.rs)