Da li će AI uskoro odlučivati koga da ubije? Kako se ChatGPT koristi u obrani, a verovatno i napadu

Partnerstvo između kompanija OpenAI i Anduril Industries otvara vrata za primenu veštačke inteligencije u vojnoj industriji, uz etičke dileme i potencijalne rizike. Nekada strogo protiv upotrebe svojih modela u vojnim aplikacijama, OpenAI sada sarađuje sa Anduril Industries kako bi razvio AI alate za potrebe američke vojske i njenih saveznika. Cilj ove saradnje je unapređenje sistema za odbranu od vazdušnih pretnji, posebno dronova, putem brzog obrade podataka i smanjenja opterećenja na ljudske operatere.

Kako ističe kompanija Anduril, AI modeli će se koristiti za sintetizovanje vremenski osetljivih podataka, poboljšanje svesti o situaciji i olakšavanje donošenja odluka u stresnim okolnostima. Iako ovi sistemi zahtevaju ljudsku kontrolu pri donošenju smrtonosnih odluka, njihova autonomna sposobnost može se unaprediti u budućnosti.

Preporučujemo

Ova saradnja dolazi u trenutku kada AI tehnologije postaju ključni elementi modernog ratovanja, naročito u Ukrajini. Sistem poznat kao counter-unmanned aircraft system (CUAS) primenjuje se za neutralisanje bespilotnih letelica, ali se pominje i odbrana od "klasičnih" pilotiranih letelica.

Rastući uticaj AI u vojnoj industriji

OpenAI nije jedina kompanija koja istražuje vojnu primenu veštačke inteligencije. Meta je počela da nudi svoje Llama modele odbrambenim partnerima, dok je Anthropic sklopio ugovor sa Palantir-om za analizu poverljivih podataka. Čak i giganti kao što su Google, Microsoft i Amazon učestvuju u borbi za unosne vojne ugovore.

Međutim, ovakva primena veštačke inteligencije otvara pitanja o pouzdanosti i sigurnosti. Veliki jezički modeli (LLM), poput onih koje razvija OpenAI, često proizvode netačne informacije i podložni su manipulacijama. Na primer, tzv. "prompt injections" mogu dovesti do lažnih odluka, što predstavlja značajan rizik u situacijama gde su životi ugroženi. Iako Anduril obećava robustan nadzor i etičke protokole, skeptici upozoravaju na potencijalne zloupotrebe i ranjivosti ovakvih sistema.

Profit ispred etike?

U junu, OpenAI je imenovao bivšeg šefa NSA Pola Nakasonea u svoj odbor direktora, signalizirajući moguće intenziviranje saradnje u domenu sajber bezbednosti i špijunaže. Ova odluka i novi ugovori s vojskom ukazuju na promenjenu dinamiku u industriji: od javnih protesta zaposlenih u Google-u 2018. godine do današnje borbe tehnoloških kompanija za unosne vojne ugovore.

Da li su sistemi bazirani na AI zaista odgovarajući alati za vojne primene, ili je reč o nepromišljenom guranju tehnologije u osetljive sfere? Vreme će pokazati kako će se ove tehnologije razvijati, ali jedno je sigurno: veštačka inteligencija zauzima sve značajniju ulogu na globalnoj vojnoj sceni.

(Telegraf.rs)