Scenario apokalipse: Veštačku inteligenciju budućnosti će biti nemoguće kontrolisati
Nemački naučnici tvrde da ne postoji način da se zauzda moćan kompjuterski algoritam bez tehnologije koja je mnogo naprednija od onoga što smo danas u stanju da napravimo...
Naučnici iz nemačkog naučnog Društva Maks Plank smatraju da čovečanstvo nikada neće uspeti da kontroliše superinteligentnu veštačku inteligenciju, koja bi mogla da spase čovečanstvo, ali i da ga potpuno uništi.
Preporučujemo
Veštačka inteligencija kao čuvar istorije: Snimak odbrane Beograda 1914. restauriran pomoću AI alata
Veselin Jevrosimović: Etika veštačke inteligencije
Problem je u tome što ne postoji način da se zauzda jedan takav moćan kompjuterski algoritam, bez tehnologije koja je mnogo naprednija od onoga što smo danas u stanju da napravimo, tvrde nemački naučnici.
U fokusu njihovog istraživanja bilo je upravo ograničavanje moćnog algoritma veštačke inteligencije. Ukoliko bi se takav algoritam na neki način odlučio da povredi ljude ili da, na "terminatorski način" dovede čovečanstvo do kraja egzistencije, postoji li način da se to spreči?
Naučnici preporučuju stvarnje neke vrste suprotnog "algoritma zadržavanja", koji bi kontrolisao ponašanje potecijalno opasnog algoritma i sprečavao ga da uradi nešto što može da naškodi ljudima.
Međutim, pošto bi takav "algoritam zadržavanja" trebalo da bude bar onoliko moćan koliko je i algoritam veštačke inteligrncije, naučnici smatraju da je to problem koji je nemoguće rešiti.
Ovo je za sada samo teorijska debata, budući da je napredna veštačka inteligencija sposobna za uništenje ljudske vrste još uvek daleko do ostvarenja, iako veoma pametni ljudi rade na takvim projektima, piše Futurism.
- Naravno da superinteligentne mašine koje kontrolišu svet zvuče kao čista naučna fantastika, ali već postoje mašine sposobne da samostalno obavljaju neke veoma važne i složene zadatke. Nisu im potrebni programeri da bi potpuno razumele kako sve to funkcioniše, već su same naučiče. Zato sa, sa pravom, javlja pitanje da li bi, u nekom trenutku, to moglo da postane nekontrolisano i opsano po čovečanstvo - zaključuje koautork istraživanja Manuel Cebrian, sa instituta Maks Plank.
(Telegraf.rs)