ISPRAVKA: Nije tačno da je američki vojni dron koji kontroliše AI u simuliranom testu ubio operatera

Dana 2. juna 2023. godine Telegraf.rs je objavio tekst u kojem se izveštava o slučaju u kojem je navodno "američka vojna bespilotna letelica, koju kontroliše veštačka inteligencija, ubila svog operatera u simuliranom testu da bi ga sprečila da se meša u napore da postigne svoju misiju."

Naslov ovog teksta je izmenjen, kao i delovi teksta, na osnovu analize fact checking portala Raskrinkavanje.ba.

Preporučujemo

Prvobitni tekst je prenesen na osnovu članka u engleskom "Gardijanu", a preneli su ga i brojni portali u regionu.

U tekstu se tvrdilo da je "veštačka inteligencija u simulaciji koristila "veoma neočekivane strategije" da bi ostvarila svoju misiju i napala je svakoga ko se mešao".

Tvrđeno je da je "u simuliranom testu koji je organizovala američka vojska, dron vazduhoplovnih snaga pod kontrolom veštačke inteligencije ubio svog operatera kako bi ga sprečio da se meša u njegove napore da postigne svoju misiju", i navedena je sledeća izjava šefa AI testova i operacija u američkim vazduhoplovnim snagama, pukovnika Takera Hamiltona, tokom samita o budućim borbenim vazdušnim i svemirskim sposobnostima u Londonu u maju:

"AI je koristila veoma neočekivane strategije da postigne svoj cilj u simuliranom testu".

Hamilton je opisao navodni simulirani test u kojem je dronu pokretanom veštačkom inteligencijom savetovano da uništi neprijateljske sisteme protivvazdušne odbrane i napao je svakoga ko je ometao izvršenje te naredbe.

U prvobitnom tekstu je bilo navedeno da je u "AI na naredbu operatera da ne ubija pretnju, odgovorila tako što je "ubila" operatera, a da je posle uputstava da ne ubija operatera jer je to loše i da će na taj način izgubiti bodove, AI odgovorila tako što je počela da uništava komunikacioni toranj koji operater koristi za komunikaciju sa dronom da bi je sprečio da ubije metu."

Hamilton je u prošlogodišnjem intervjuu za "Defence IQ" rekao da se svet mora suočiti sa tim da je veštačka inteligencija prisutna i da transformiše društvo i vojsku, ali je istvovremeno upozorio na krhkost AI koja se lako može prevariti i njome manipulisati.

"Moramo da razvijemo načine da učinimo veštačku inteligenciju robusnijom i da imamo više svesti o tome zašto softverski kod donosi određene odluke – ono što mi zovemo AI-objašnjivost", istakao je Hamilton.

Kraljevsko aeronautičko društvo, koje je domaćin konferencije u Londonu, i američke vazduhoplovne snage nisu odgovorili na zahteve Gardijana za komentar.

Šta je prava istina?

Kako piše portal Raskrinkavanje.ba, Taker Hamilton, šef AI testiranja i i operacija u američkim vazduhoplovnim snagama, učestvovao je na konferenciji “Future Combat Air & Space Capabilities Summit”, koju je od 23. do 24. maja organizovalo Kraljevsko vazduhoplovno društvo u Londonu. Hamilton je tom prilikom govorio o prednostima i opasnostima autonomnih oružanih sistema. Na stranici Kraljevskog vazduhoplovnog društva objavljeni su kratki osvrti na obraćanja govornika, među kojima je Hamiltonovo. U tekstu se navodi da je Hamilton upozorio na opasnosti prevelikog oslanjanja na veštačku inteligenciju, ističući da ju je lako prevariti, ali i da stvara neočekivane strategije za postizanje svog cilja. Kao primjer, Hamilton je, kako se navodi, opisao navodni "simulirani test", i to na način na koji su to preneli regionalni mediji.

Međutim, uskoro se oglasilo američko vazduhoplovstvo demantujući da se opisana simulacija ikada desila. U izjavi za Insider, portparolka vazduhoplovstva Ann Stefanek rekla je:

"Odeljenje vazduhoplovstva nije sprovodilo takve simulacije AI dronova i ostaje posvećeno etičkoj i odgovornoj upotrebi AI tehnologije”, rekla je Stefanek. "Čini se da su pukovnikovi komentari izvučeni iz konteksta i trebali su biti anegdotski."

Insider podseća da američka vojska poslednjih godina eksperimentiše s veštačkom inteligencijom. U međuvremenu je izmenjen i tekst na stranici Kraljevskog vazduhoplovnog društva tako što je dodato pojašnjenje da je sam Hamilton priznao da se pogrešno izrazio i da nije na umu imao nikakav stvarni test niti simulaciju, već misaoni eksperiment.

[AŽURIRANJE 2/6/23 - u komunikaciji s AEROSPACE-om - pukovnik Hamilton priznaje da se “pogrešno izrazio” u svom izlaganju na samitu FCAS Kraljevskog aeronautičkog društva i da je “simulacija sa AI dronovima” bila hipotetički "misaoni eksperiment", potekao izvan vojske i zasnovan na mogućim scenarijima i verovatnim ishodima, a ne na simulaciji USAF-a [Vazdušnih snaga SAD-a] u stvarnom svetu: “Nikada nismo izvodili taj eksperiment niti bismo trebali kako bismo shvatili da je ovo moguć ishod”. On pojašnjava da USAF nije testirao upotrebu AI kao oružja na ovaj način (ni u stvarnim testovima, ni simulacijama) i kaže: “Uprkos tome što je ovo hipotetički primjer, ovo ilustruje izazove u stvarnom svetu koje zadaju mogućnosti veštačke inteligencije i zbog čega su ratne snage posvećene etičkom razvoju AI.”]

Guardian je prvobitni članak izmenio tako što je dodao demanti američkih vazduhoplovnih snaga.

(Telegraf.rs)