Kakva je uloga veštačke inteligencije u savremenom ratovanju?

Integracija veštačke inteligencije (AI) u vojne procese donošenja odluka je dobila zamah, sa armijama koje su usvojile sisteme za podršku odlučivanju vođene veštačkom inteligencijom kako bi poboljšale svoje sposobnosti. Ovi sistemi pomažu u nizu zadataka, od logistike i strategije do odluka o upotrebi sile. Međutim, njihova složenost i rastuća autonomija osporavaju ulogu ljudskog rasuđivanja u vojnim odlukama, izazivajući značajne pravne, humanitarne i etičke probleme.

AI DSS se sve više koristi za donošenje odluka koje uključuju upotrebu sile, korišćenje mašinskog učenja za analizu podataka, davanje preporuka i predviđanje ishoda. Iako obećavaju brže donošenje odluka i pojačano poštovanje međunarodnog humanitarnog prava (MHP), njihova ograničenja mogu dovesti do ozbiljnih rizika. Na primer, sistemi zasnovani na mašinskom učenju mogu produžiti pristrasnosti, generisati greške i zamagliti razloge iza svojih rezultata, što otežava ljudima da identifikuju i osporavaju pogrešne ili štetne preporuke.

Preporučujemo

Pristrasnost automatizacije, gde se ljudi previše oslanjaju na izlaze generisane veštačkom inteligencijom, potencijalno povećava rizike. U situacijama visokog pritiska, kao što su vojne operacije, donosioci odluka mogu se ponašati kao puki izvršioci, primenjujući preporuke vođene veštačkom inteligencijom bez adekvatne procene njihove zakonitosti ili potencijalnih posledica. Ovaj trend izaziva zabrinutost zbog erozije ljudske odgovornosti i prosuđivanja u kritičnim odlukama koje reguliše međunarodno humanitarno pravo.

Očuvanje ljudskog rasuđivanja je kamen temeljac međunarodnog humanitarnog prava, koji nalaže da su ljudi, a ne mašine, odgovorni za poštovanje i odgovornost u oružanim sukobima. Dok AI DSS može da podrži zadatke kao što su identifikacija mete ili procena kolateralne štete, njihovi rezultati ne smeju da zamene ljudsko promišljanje. Odluke o zakonitosti napada zahtevaju nijansirane, kontekstualne procene koje sistemi veštačke inteligencije ne mogu pouzdano da izvrše.

Uprkos ovim rizicima, AI DSS nudi potencijalne prednosti kada se koristi odgovorno. Na primer, oni mogu da poboljšaju zaštitu civila analizirajući velike skupove podataka da identifikuju civilne objekte, mapiraju infrastrukturu i preporučuju metode za smanjenje štete. Međutim, efikasnost takvih sistema zavisi od visokokvalitetnih podataka prilikom obuke sistema, što ostaje izazov u promenljivim i varljivim konfliktnim okruženjima.

Da bi ublažile rizike, armije moraju pažljivo da procene AI DSS podobnost za specifične zadatke, sprovedu pravne preglede njihove upotrebe i dizajniraju sisteme koji su transparentni i razumljivi. Trebalo bi postaviti ograničenja na njihovu upotrebu, posebno za zadatke koji zahtevaju kvalitativno prosuđivanje. Štaviše, AI DSS nikada ne sme da se koristi u nuklearnim sistemima komandovanja i kontrole ili drugim kontekstima gde bi njihova nepredvidljivost mogla dovesti do katastrofalnih ishoda.

Tekući međunarodni napori, kao što je Samit o odgovornoj veštačkoj inteligenciji u vojnom domenu i različite nacionalne strategije veštačke inteligencije, naglašavaju potrebu za čvrstim okvirima upravljanja. Na kraju, AI DSS bi trebalo da unapredi ljudsko donošenje odluka, obezbeđujući etičke vrednosti i poštovanje međunarodnog humanitarnog prava, istovremeno čuvajući ljudsko dostojanstvo u oružanim sukobima. Kako će izgledati budući ratovi uz primenu veštačke inteligencije, na žalost, saznaćemo u bliskoj budućnosti.

(Telegraf.rs/Goran Lazarov)