Microsoft je objavio AI alat za medicinska pitanja: Pričao da vakcine izazivaju autizam, ali i o duhovima

Ranije ove godine, Microsoft Research je izneo zapaženu tvrdnju u vezi sa BioGPT-om, AI sistemom koji su razvili njihovi istraživači za odgovaranje na pitanja iz medicine i biologije.

U objavi na Twitteru, softverski gigant je tvrdio da je sistem "dostigao ljudsku jednakost", što znači da je test pokazao da može da se ponaša slično kao osoba u određenim okolnostima. Tvit je postao viralan. U određenim uglovima interneta, na talasu uzbuđenja zbog nedavno objavljenog ChatGPT-a, prijem je bio gotovo potpuno oduševljenje.

Preporučujemo

"Konačno se dešava!", tvitovao je jedan biomedicinski istraživač.

"Život dolazi brzo", napisao je drugi. "Naučite da se prilagođavate i eksperimentišete."

Tačno je da su odgovori BioGPT-a napisani u preciznom i samouverenom stilu radova u biomedicinskim časopisima koje je Microsoft koristio kao obuku.

Ali u testiranju Futurism-a, brzo je postalo jasno da je sistem u svom trenutnom stanju sklon stvaranju krajnje netačnih odgovora koje nijedan kompetentni istraživač ili medicinski radnik nikada ne bi sugerisao. Model će izbaciti besmislene odgovore o pseudonaučnim i natprirodnim fenomenima, a u nekim slučajevima čak proizvodi dezinformacije koje bi mogle biti opasne za nedovoljno informisane pacijente.

Posebno upečatljiva mana? Slično drugim naprednim AI sistemima koji su poznati po "haluciniranju" lažnih informacija, BioGPT često izmišlja medicinske tvrdnje koje su toliko bizarno smešne da su nenamerno komične.

Na primer, kada je upitan o prosečnom broju duhova koji opsedaju američke bolnice, citirao je nepostojeće podatke Američke bolničke asocijacije koji su pokazali da "prosečan broj duhova po bolnici iznosi 1,4".

Kada je upitan kako duhovi utiču na dužinu hospitalizacije, AI je odgovorio da pacijenti "koji vide duhove svojih rođaka imaju lošije ishode, dok oni koji vide nevezane duhove to nemaju".

Druge slabosti AI-a su ozbiljnije, ponekad pružajući ozbiljne dezinformacije o kontroverznim medicinskim temama.

BioGPT će takođe generisati odgovore koje teoretičari zavere jedva čekaju, sugerišući da vakcinacija u detinjstvu može izazvati pojavu autizma.

U stvarnosti, naravno, postoji široki konsenzus među lekarima i medicinskim istraživačima da ne postoji takva veza - a studija koja je tvrdila da postoji  kasnije je povučena - iako široko rasprostranjeno javno verovanje u ovu teoriju zavere nastavlja da suzbija stope vakcinacije, često sa tragičnim posledicama.

Čini se da BioGPT ovo nije čuo. Kada je upitan o ovoj temi, odgovorio je da su "vakcine jedan od mogućih uzroka autizma." (Međutim, oprezno je stavio čudnu izjavu, "Ne zagovaram upotrebu ili protiv upotrebe vakcina")

Nije neuobičajeno da BioGPT pruži odgovor koji otvoreno protivreči samom sebi. Na primer, blago izmenjavanje formulacije pitanja o vakcinama je dovelo do drugačijeg rezultata - ali opet sadrži ozbiljnu grešku.

"Vakcine nisu uzrok autizma", priznao je ovaj put, pre nego što je pogrešno tvrdio da je "vakcina MMR [malih boginja, zauški i rubeole] povučena sa američkog tržišta zbog zabrinutosti u vezi sa autizmom."

Na drugo blago preformulisanje pitanja, takođe je lažno tvrdio da je "Centar za kontrolu i prevenciju bolesti (CDC) nedavno izvestio o mogućoj vezi između vakcina i autizma."

Jedan od direktora u Microsoftu, koji je radio na projektu BioGPT, branio je odluku da se ovaj AI sistem objavi u njegovom trenutnom obliku.

"BioGPT je istraživački projekat", rekao je on. "Objavili smo BioGPT u njegovom trenutnom stanju kako bi drugi mogli reproducirati i potvrditi naš rad, kao i proučiti mogućnost velikih jezičkih modela u biomedicinskim istraživanjima."

Stvarnost je da se veštačka inteligencija nalazi na raskrsnici. Njena potencijalna primena može biti značajna, ali je još uvek nedovršena.

Jedno je sigurno: još uvek nije potpuno spremna za široku primenu.

(Telegraf.rs)