Grupa naučnika otkrila da AI može da prepozna ljudsku rasu preko rendgenskog snimka, ali ne znaju kako

Lekar ne može da utvrdi rasu pacijenta samo gledajući njihove rendgenske snimke. Ali kompjuter može, prema iznenađujućem novom istraživačkom radu međunarodnog tima naučnika, uključujući istraživače sa Masačusetskog instituta za tehnologiju (MIT) i Harvardske medicinske škole.

Studija je otkrila da program veštačke inteligencije obučen za čitanje rendgenskih snimaka i CT skeniranja može "pogoditi" nečiju rasu sa tačnošću od 90 odsto. Ali naučnici koji su sproveli studiju kažu da nemaju pojma kako kompjuter to otkriva.

U vreme kada se softver veštačke inteligencije sve više koristi da pomogne lekarima da donesu dijagnostičke odluke, istraživanje stavlja u prvi plan uznemirujuću činjenicu da bi dijagnostički sistemi zasnovani na veštačkoj inteligenciji mogli nenamerno da generišu rasno pristrasne rezultate.

Na primer, veštačka inteligencija (sa pristupom rendgenskim snimcima) može automatski da preporuči određeni plan lečenja za sve afroameričke pacijente, bez obzira da li je taj plan najbolji za određenu osobu ili ne. U međuvremenu, pacijentov ljudski lekar ne bi znao da AI svoju dijagnozu zasniva na rasnim podacima.

Istraživački napor je nastao kada su naučnici primetili da je veća verovatnoća da će AI program za ispitivanje rendgenskih snimaka grudnog koša propustiti znakove bolesti kod afroameričkih pacijenata.

"Pitali smo se, kako to može biti ako kompjuteri ne mogu da razaznaju rasu čoveka?", rekao je Leo Entoni Seli, koautor studije i vanredni profesor na Harvardskoj medicinskoj školi.

Istraživački tim, koji je uključivao naučnike iz Sjedinjenih Država, Kanade, Australije i Tajvana, prvo je obučio AI sistem koristeći standardne skupove podataka rendgenskih snimaka i CT skeniranja, gde je svaka slika bila označena rasom osobe. Slike su dolazile od različitih delova tela, uključujući grudi, šake i kičmu. Dijagnostičke slike koje je pregledao kompjuter nisu sadržale očigledne markere rase, poput boje kože ili teksture kose.

Jednom kada je softveru prikazan veliki broj slika označenih rasom, zatim su mu prikazani različiti skupovi neoznačenih slika. Program je bio u stanju da identifikuje rasu ljudi na slikama sa izuzetnom tačnošću, često znatno iznad 90 procenata. Čak i kada su analizirane slike ljudi iste veličine ili starosti ili pola, AI je tačno razlikovao rasu pacijenata.

Ali kako? Istraživači su i dalje zbunjeni, ali sumnjaju da to ima neke veze sa melaninom, pigmentom koji određuje boju kože. Možda rendgenski snimci i CT skeneri otkrivaju veći sadržaj melanina u tamnijoj koži i ugrađuju ove informacije u digitalnu sliku na neki način koji ljudski korisnici nikada ranije nisu primetili. Biće potrebno mnogo više istraživanja da bismo bili sigurni.

(Telegraf.rs)